«این یک سراب خوشرنگ است!» هشدار تکاندهنده معمار سابق OpenAI: هوش مصنوعی واقعاً «میفهمد» یا فقط تقلید میکند
آندری کارپاتی، یکی از چهرههای کلیدی دنیای هوش مصنوعی و از معماران ارشد سابق در شرکتهای تسلا و OpenAI، در اظهاراتی صریح و بیپرده، وضعیت فعلی مدلهای زبانی بزرگ را به چالش کشیده است. او این سیستمها را «مقلدهایی درخشان» توصیف میکند که با وجود تواناییهای حیرتانگیزشان، هنوز از «درک و استدلال واقعی» بیبهرهاند.
هوش مصنوعی امروزی؛ زیبا اما توخالی
کارپاتی در توضیح دیدگاه خود، پا را فراتر گذاشت و گفت آنچه امروز به نام «هوش مصنوعی» میشناسیم، «شاید چیزی جز یک سراب خوشرنگ نباشد». او معتقد است مدلهای زبانی بزرگ (LLMها)، یعنی همان سیستمهایی که ابزارهایی مانند ChatGPT بر پایه آنها ساخته شدهاند، از «کمبودهای شناختی عمیق» رنج میبرند.
به گفته او، این سیستمها «نه هوش کافی دارند، نه حافظه بلندمدت و نه توانایی استدلال واقعی». کارپاتی تاکید کرد که مدلهای فعلی هر بار که اجرا میشوند، از نقطه صفر مطلق شروع میکنند: «گویی هر روز صبح، تمام تجربیات دیروز خود را فراموش کردهاند. هیچ فرایندی شبیه به خواب برای تثبیت آموختهها در ساختارشان وجود ندارد.»
دانشنامهی اینترنت، نه درک جهان
این متخصص برجسته اظهار داشت که آنچه درون این مدلها وجود دارد، صرفاً «یک خاطره مهآلود و فشردهشده از اینترنت» است، نه درک واقعی از جهان. او توضیح داد که این مدلها تریلیونها کلمه را در چند میلیارد پارامتر عصبی فشرده کردهاند، اما در نهایت، درکی از معنا و تجربه انسانی ندارند.
او افزود: «تمام چیزی که در لحظه در اختیار دارند، همان پنجره کوتاه زمینه (Context Window) است. حافظهای محدود، بدون تداوم و بدون درک واقعی.» به باور کارپاتی، این مدلها در تقلید کردن استادند، اما در خلق ایدههای نو یا خروج از الگوهایی که دیدهاند، به شدت ناتوان هستند.
«حافظه زیاد، استدلال کم»: مغزی ناقص
کارپاتی برای توضیح این محدودیت، یک تشبیه بیولوژیک قدرتمند ارائه داد. او ساختار فعلی LLMها را به «بافت قشری مغز» (لایه بیرونی مغز) تشبیه کرد؛ بافتی که در یادگیری الگوها عالی عمل میکند، اما سایر اجزای حیاتی مغز را ندارد.
او گفت: «در این مغز دیجیتال، نه هیپوکامپی برای حافظه واقعی وجود دارد، نه آمیگدالی برای احساسات و نه هیچگونه انگیزهای.»
نکته تکاندهنده در تحلیل او اینجاست: «انسانها به این دلیل استدلال میکنند که میتوانند فراموش کنند. اما ماشینها همهچیز را به یاد میآورند، و همین نقطه ضعف آنهاست.» او معتقد است توانایی مدلها در بازتولید دقیق الگوهای تصادفی (کاری که انسان نمیتواند انجام دهد)، «یک نقص است، نه مزیت».
مسیر آینده: جدایی «هوش» از «حافظه»
در جمعبندی، کارپاتی خاطرنشان کرد تا زمانی که پژوهشگران نتوانند «هوش را از حافظهی صرف جدا کنند و به آن قدرت استدلال ببخشند»، سیستمهای فعلی تنها «مقلدهایی درخشان» باقی خواهند ماند.
او توضیح داد که رقابت آینده در حوزهی هوش مصنوعی دیگر بر سر افزایش تعداد پارامترها (بزرگتر کردن مدل) نیست. «مسابقهی واقعی بر سر کشف معماری جایگزینی است که بتواند «هسته شناختی» را بازآفرینی کند؛ سیستمی که برای رسیدن به درک، به تریلیونها داده و ابررایانهها نیاز نداشته باشد.»
زنگ خطری از درون
اهمیت سخنان آندری کارپاتی در این است که از زبان یک منتقد بیرونی بیان نشده، بلکه از زبان یکی از معماران اصلی همین فناوری مطرح شده است. او در واقع زنگ خطری را به صدا در میآورد که نشان میدهد مسیر فعلی توسعه هوش مصنوعی، که صرفاً بر «انباشت داده و پارامتر» متمرکز است، ممکن است به بنبست رسیده باشد.
اگر پیشبینی او درست باشد، نسل بعدی هوش مصنوعی نه «بزرگتر»، بلکه «باهوشتر» خواهد بود؛ سامانههایی که به جای تقلید از انسان، شاید بالاخره «فهمیدن» را آغاز کنند.
