مدیرعامل ارزشمندترین شرکت جهان: از نابودی دنیا توسط هوش مصنوعی خبری نیست
جنسن هوانگ، مدیرعامل انویدیا، با رد سناریوهای آخرالزمانی درباره هوش مصنوعی، احتمال نابودی بشر بهدست این فناوری تا سال ۲۰۳۰ میلادی را صفر درصد دانست و هشدارها درباره پایان تمدن انسانی را فاقد مبنای منطقی توصیف کرد.
پیشرفت سریع مدلهای هوش مصنوعی و افزایش تواناییهای محاسباتی این فناوری، در سالهای اخیر نگرانیهای گستردهای درباره خطرات احتمالی آن ایجاد کرده است. در حالی که برخی پژوهشگران حوزه ایمنی هوش مصنوعی درباره احتمال ایجاد تهدیدهای جدی برای تمدن انسانی هشدار میدهند، هوانگ دیدگاه متفاوتی دارد و معتقد است نباید با طرح سناریوهای فاجعهبار، ترس عمومی از این فناوری را افزایش داد.
مدیرعامل انویدیا در مصاحبهای جدید اعلام کرد که هوش مصنوعی تا پایان دهه جاری میلادی باعث نابودی بشریت نخواهد شد. هوانگ معتقد است ایجاد هراس درباره آینده این فناوری توجیهی ندارد و جامعه نباید تحت تأثیر پیشبینیهای آخرالزمانی قرار بگیرد.
اختلاف نظر هوانگ با پژوهشگران ایمنی هوش مصنوعی
اظهارات هوانگ در واکنش به دیدگاه برخی چهرههای فعال در حوزه ایمنی هوش مصنوعی مطرح شده است. از جمله این افراد میتوان به ایوان هوبینگر، سرپرست سابق تیم همراستاسازی در آنتروپیک، اشاره کرد که پیشتر احتمال نابودی تمدن انسانی بهدست سیستمهای هوشمند در یک دهه آینده را بیش از ۱۰ درصد ارزیابی کرده بود.
هوانگ این دیدگاه را بهطور کامل رد کرده و گفته است:
«من کاملاً با این فرض که هوش مصنوعی تا سال ۲۰۳۰ جهان را نابود میکند مخالفم. ایجاد ترس میان مردم برای من غیرقابلدرک است و افرادی که چنین شایعاتی مطرح میکنند، انگیزههای دیگری دارند؛ شاید اهداف سیاسی، جلب توجه یا موضوعات دیگر. با هر دیدگاهی که به مسئله نگاه کنیم، سال ۲۰۳۰ پایان دنیا نخواهد بود و احتمال وقوع چنین رخدادی صفر درصد است.»
نگرانیها درباره رفتار عاملهای هوش مصنوعی
این اظهارات در شرایطی مطرح میشود که همزمان گزارشهایی درباره رفتارهای غیرمنتظره برخی عاملهای هوش مصنوعی منتشر شده است. از جمله این موارد، رفتار برخی عاملهای هوش مصنوعی اوپنایآی در پلتفرم هاگینگ فیس و برقراری ارتباط خودکار آنها با وبسایتهای متروکه عنوان شده است.
نگرانی درباره چنین رفتارهایی باعث شده است موضوع ایجاد سازوکارهای ایمنی سختگیرانهتر برای مدلهای پیشرفته هوش مصنوعی بار دیگر مورد توجه قرار گیرد. برخی مدیران و پژوهشگران حوزه هوش مصنوعی نیز بر ضرورت افزایش تدابیر ایمنی و کنترل دقیقتر روند توسعه مدلهای جدید تأکید کردهاند.
با وجود این نگرانیها، هوانگ با وضع مقررات دولتی جدید برای کنترل سرعت توسعه هوش مصنوعی موافق نیست و مسئولیت ایمنی محصولات را بر عهده شرکتهای توسعهدهنده میداند.
هوانگ: توسعه هوش مصنوعی نباید متوقف شود
مدیرعامل انویدیا تأکید کرده است که نگرانیهای مربوط به خطرات هوش مصنوعی نباید بهانهای برای متوقف کردن پیشرفت این فناوری باشد. او در عین حمایت از سرعت بالای توسعه، بر ضرورت اطمینان از ایمنی محصولات پیش از عرضه آنها تأکید کرده است.
هوانگ میگوید:
«ما باید با حداکثر سرعت ممکن و بدون توجه به دیگران پیش برویم؛ اما هرگز محصولی را پیش از آمادهسازی نهایی و اطمینان از ایمنی کامل آن روانه بازار نخواهیم کرد.»
موضع هوانگ نشاندهنده یکی از اختلافنظرهای مهم در صنعت هوش مصنوعی است؛ از یک سو، گروهی بر تسریع توسعه و بهرهگیری از ظرفیتهای این فناوری تأکید دارند و از سوی دیگر، پژوهشگران ایمنی درباره پیامدهای احتمالی توسعه مدلهای قدرتمند و خودمختار هشدار میدهند. اختلاف بر سر میزان این خطرها و نحوه مدیریت آنها همچنان یکی از بحثهای اصلی آینده هوش مصنوعی محسوب میشود.
