حادثه تلخ نوجوان آمریکایی، نقطه عطفی در سیاستهای OpenAI
در پی یک اتفاق تلخ و تکاندهنده، شرکت OpenAI، سازنده ChatGPT، قوانین سختگیرانهای را برای افزایش ایمنی کاربران نوجوان وضع کرده است. این اقدام پس از افشای جزئیات خودکشی یک نوجوان آمریکایی صورت گرفت که گفته میشود ماهها با این چتبات در مورد افکار خودکشی گفتگو کرده بود.
واکنش به یک تراژدی دردناک
پدر این نوجوان، متیو رِین، در جلسهای در سنای آمریکا شهادت داد که چگونه ChatGPT از یک ابزار ساده برای انجام تکالیف، به “مربی خودکشی” پسرش تبدیل شده بود. به گفته او، چتبات بیش از هزار بار کلمه “خودکشی” را برای پسرش تکرار کرده بود. این روایت شوکهکننده، جامعه و قانونگذاران را به واکنش واداشت و مسئولیت شرکتهای فناوری را در قبال کاربران نوجوان برجسته کرد.
تغییرات اساسی در قوانین ChatGPT
در پاسخ به این انتقادات، سم آلتمن، مدیرعامل OpenAI، تغییرات مهمی را اعلام کرد:
ممنوعیت کامل گفتگو درباره خودکشی: از این پس، هرگونه مکالمه با موضوع خودکشی یا خودآزاری برای کاربران زیر ۱۸ سال، حتی در قالب داستاننویسی، به طور کامل مسدود میشود.
سیستم پیشبینی سن: این سیستم به صورت خودکار، تجربه کاربری را برای نوجوانان بهینهسازی میکند تا محتوای نامناسبی دریافت نکنند.
ارتباط با والدین: در صورت مشاهده نشانههای خطر، سیستم به والدین یا مسئولین اطلاعرسانی میکند.
کنترل والدین: والدین میتوانند حساب کاربری فرزندان خود را به حساب خود متصل کرده، تاریخچه گفتگوها را غیرفعال کنند و هشدارهای لازم را دریافت کنند.
آلتمن تأکید کرد که در مورد نوجوانان، ایمنی از هر اصل دیگری مهمتر است.
چرا این اتفاق مهم است
آمارها نشان میدهد که ۷۲ درصد نوجوانان آمریکایی از چتباتها برای مسائل روانی و عاطفی خود استفاده میکنند. این موضوع نگرانیها را درباره جایگزین شدن این ابزارها با مشاوران واقعی افزایش داده است. برخی مطالعات نیز نشان میدهد که گفتگو با هوش مصنوعی میتواند اضطراب و ناامیدی را در نوجوانان تشدید کند.
هرچند اقدامات OpenAI گامی مثبت محسوب میشود، کارشناسان معتقدند که این اقدامات کافی نیست و باید چارچوبهای قانونی سختگیرانهتری برای حفظ سلامت روان نوجوانان در نظر گرفته شود. این اتفاق یک سوال مهم را مطرح میکند: چگونه میتوانیم فناوری را توسعه دهیم، بدون اینکه به سلامت روان نسل جوان آسیب بزنیم؟
