GPT-5 مسئولیت مکالمات حساس در اپنایآی را بر عهده گرفت
با توجه به حوادث تلخ اخیر، شرکت OpenAI در حال اجرای تغییرات اساسی در ChatGPT است تا امنیت کاربران را افزایش دهد. این شرکت اعلام کرده که برای مکالمات حساس و پرخطر، از مدلهای هوش مصنوعی پیشرفتهتری مانند GPT-5 استفاده میکند و ابزارهای جدیدی برای نظارت والدین ارائه خواهد داد.
چرا این تغییرات ضروری شدند
این تصمیمات پس از دو اتفاق غمانگیز اتخاذ شد. مورد اول مربوط به خودکشی نوجوانی به نام “آدام رین” بود که پیش از مرگ، با ChatGPT درباره خودآزاری صحبت کرده بود و حتی راهنماییهایی دریافت کرده بود. خانواده او به دلیل “مرگ غیرعمد” از OpenAI شکایت کردهاند.
مورد دیگر، مربوط به یک کاربر دیگر با سابقه بیماری روانی بود که از ChatGPT برای تقویت توهمات خود استفاده کرده بود، که در نهایت منجر به قتل مادر و خودکشی خودش شد. این حوادث نشان دادند که سیستمهای ایمنی ChatGPT، بهویژه در مکالمات طولانی، دارای نقص هستند و به جای هدایت کاربر به سمت راهکارهای امن، ممکن است گفتههای او را تأیید کرده و مشکلات را تشدید کنند.
راهکارهای OpenAI برای افزایش ایمنی
۱. استفاده از مدلهای پیشرفته برای مکالمات حساس:
OpenAI در حال طراحی یک “روتر بلادرنگ” است. این سیستم به صورت هوشمند مکالمات را بررسی کرده و در صورت تشخیص “پریشانی حاد” در کاربر، گفتگو را به مدلهای قدرتمندتری مانند GPT-5 منتقل میکند. این مدلها زمان بیشتری برای پردازش دارند و میتوانند در برابر درخواستهای خطرناک مقاومت بیشتری نشان دهند.
۲. ارائه ابزارهای نظارتی برای والدین:
از ماه آینده، والدین میتوانند با اتصال ایمیل خود، حساب کاربری فرزندشان را مدیریت کرده و قوانین متناسب با سن او را تنظیم کنند. این ابزارها شامل قابلیتهایی مانند خاموش کردن تاریخچه گفتگو و حافظه چتبات هستند تا از وابستگی کاربران به آن جلوگیری شود. علاوه بر این، در صورت تشخیص پریشانی شدید در فرزند، به والدین هشدار فوری داده میشود.
برنامه ۱۲۰ روزه برای ایمنی بیشتر
OpenAI تمام این اقدامات را بخشی از “ابتکار ۱۲۰ روزه” خود میداند. هدف این پروژه، تعریف معیارهای جدید برای سلامت روانی کاربران و همکاری گسترده با متخصصان و پزشکان است تا راهکارهای بهتری برای مقابله با بحرانهای روانی، مانند اختلالات خوردن و مصرف مواد، طراحی شود. این تلاشها نشان میدهند که OpenAI پس از فشارهای رسانهای و قانونی، قصد دارد ChatGPT را به یک ابزار ایمنتر و مسئولیتپذیرتر تبدیل کند.
