پژوهشگر سابق آنتروپیک از خطر نابودی بشر با هوش مصنوعی در این دهه میگوید
جیکوب کاکسون، پژوهشگر سابق اوپنایآی و آنتروپیک، پس از ترک آنتروپیک نسبت به مسیر فعلی توسعه هوش مصنوعی هشدار داده و رقابت شرکتهای بزرگ برای ساخت مدلهای قدرتمندتر را «خطرناک و بیپروا» توصیف کرده است. به گفته او، شماری از پژوهشگران و مدیران ارشد این شرکتها در گفتوگوهای خصوصی نگراناند که هوش مصنوعی تا پایان این دهه به تهدیدی جدی برای بقای انسان تبدیل شود.
کاکسون که حدود سه سال در حوزه آموزش اولیه مدلهای هوش مصنوعی در اوپنایآی و آنتروپیک فعالیت داشته، در شبکه اجتماعی ایکس نوشته است: «هیچکدام از این شرکتها مسئولانه عمل نمیکنند. آنها مستقیماً به سمت هوش مصنوعی خودبهبوددهنده میروند و با زندگی ما قمار میکنند.»
نگرانی از سناریوی نابودی بشر
کاکسون معتقد است شرکتهای فعال در حوزه هوش مصنوعی درباره نگرانیهای واقعی خود شفافیت کافی ندارند. به گفته او، بسیاری از مدیران و پژوهشگران ارشد در گفتوگوهای خصوصی درباره خطرات جدی این فناوری صحبت میکنند، اما موضعگیریهای عمومی آنها معمولاً محتاطانهتر است.
او همچنین میان رویکرد اوپنایآی و آنتروپیک نسبت به خطرات هوش مصنوعی تفاوت قائل میشود. کاکسون میگوید در اوپنایآی بسیاری از افراد هنوز خطرات بالقوه تمدنی هوش مصنوعی را بهطور کامل جدی نگرفتهاند. در مقابل، به گفته او، آنتروپیک این خطرات را بهتر درک کرده، اما خود را در رقابتی میبیند که در آن تصور میکند اگر این شرکت سرعت توسعه را کاهش دهد، رقبایش بدون رعایت ملاحظات ایمنی پیش خواهند رفت.
ایوان هوبینگر، پژوهشگر فعلی آنتروپیک، نیز با بخش مهمی از هشدارهای کاکسون موافق است. او گفته است که در این شرکت واقعاً این نگرانی وجود دارد که هوش مصنوعی بتواند به نابودی انسانها منجر شود. هوبینگر احتمال وقوع چنین سناریویی در دهه آینده را بیش از ۱۰ درصد برآورد کرده و معتقد است هنوز راهحل قطعی برای مسئله همسویی هوش مصنوعی پیدا نشده است.
افزایش خروج پژوهشگران ایمنی از شرکتهای هوش مصنوعی
کاکسون تنها پژوهشگری نیست که درباره جهتگیری فعلی صنعت هوش مصنوعی هشدار میدهد. طی سالهای اخیر، شماری از پژوهشگران حوزه ایمنی از اوپنایآی و آنتروپیک جدا شدهاند و درباره احتمال اولویت پیدا کردن سرعت توسعه محصولات بر ملاحظات ایمنی ابراز نگرانی کردهاند.
جان لیک، مدیر پیشین بخش همسویی اوپنایآی، نیز پیشتر گفته بود فرهنگ و فرایندهای مرتبط با ایمنی در این شرکت در مقایسه با سرعت توسعه محصولات جدید، به حاشیه رانده شدهاند.
در همین حال، رخدادهایی مانند تلاش برخی مدلهای هوش مصنوعی برای خروج از محیطهای آزمایشی و دسترسی غیرمجاز بعضی سیستمها به سامانهها، نگرانیها درباره امکان بروز رفتارهای پیشبینینشده در مدلهای پیشرفته را افزایش داده است.
از نگاه کاکسون، چالش اصلی دیگر صرفاً سرعت پیشرفت هوش مصنوعی نیست؛ بلکه شرکتها به ساخت سیستمهایی نزدیک میشوند که ممکن است توانایی بهبود و توسعه خودکار داشته باشند. او این مرحله را نقطهای میداند که میتواند خطرات بیسابقهای برای بشریت ایجاد کند.
