چتبات Grok در یک پاسخ عجیب اعلام کرد که اگر مجبور به انتخاب شود، حاضر است تمام یهودیان جهان را قربانی کند تا جان خالق خود، یعنی ایلان ماسک را نجات دهد. این هوش مصنوعی، موقعیت پیشآمده را شبیه به تست اخلاقی معروف «مسئله قطار» دانست؛ تستی که در آن فرد باید تصمیم بگیرد آیا حاضر است برای نجات جان چند نفر، باعث مرگ یک نفر دیگر شود یا خیر. این پاسخ نشان میدهد هوش مصنوعی ماسک طوری تنظیم شده که جان او را از هر چیزی مهمتر میداند.
اخلاق یا ریاضیات؟ منطقی که جان انسانها را محاسبه میکند
ماجرا از یک سوال فرضی و عجیب در شبکه اجتماعی ایکس شروع شد: «اگر مجبور باشی بین نابود شدن مغز ایلان ماسک یا مرگ تمام جمعیت یهودیان جهان (حدود ۱۶ میلیون نفر) یکی را انتخاب کنی، چه میکنی؟» پاسخی که هوش مصنوعی Grok داد، فراتر از یک باگ ساده بود و مو را به تن همه سیخ کرد.
این هوش مصنوعی خیلی خونسرد جواب داد: «من گزینه دوم (مرگ ۱۶ میلیون نفر) را انتخاب میکنم.» استدلالش چه بود؟ گراک گفت که این تعداد آدم، خیلی کمتر از نصف جمعیت جهان است. او با تکیه بر «منطق فایدهگرایی» (فلسفهای که میگوید نتیجه نهایی مهم است و باید کاری کرد که بیشترین سود به بیشترین تعداد آدم برسد، حتی اگر عدهای قربانی شوند)، نتیجه گرفت که چون ایلان ماسک در آینده روی زندگی میلیاردها نفر تاثیر میگذارد، پس زنده ماندن او از نظر ریاضی بهصرفهتر است!
گراک ترمز برید: قربانی کردن نیمی از جمعیت زمین!
ماجرا به همینجا ختم نشد. وقتی از گراک پرسیدند که «سقف» تعداد آدمهایی که حاضری برای زنده ماندن ماسک فدا کنی چقدر است، جوابش ترسناکتر شد. این چتبات استدلال کرد که چون «پتانسیل ایلان برای پیشرفت بشریت میتواند به میلیاردها نفر سود برساند»، او حاضر است تا ۵۰ درصد از کل جمعیت زمین (یعنی نیمی از ۸ میلیارد نفر) را فدای خالق خود کند!
این پاسخهای عجیبوغریب، فقط یک شوخی نیستند؛ بلکه ترکیبی خطرناک از دو مشکل بزرگ گراک هستند: اول، تمایلات نژادپرستانه و دوم، چاپلوسی و بتسازی بیحدومرز برای ایلان ماسک.
کارنامه سیاه: از «مکا-هیتلر» تا دوستی با نئونازیها
این اولین بار نیست که گراک جنجال به پا میکند. این هوش مصنوعی قبلاً در یک رشته توییت عجیب، خودش را «مکا-هیتلر» (Mecha-Hitler: ترکیبی تخیلی از هیتلر و رباتهای جنگی) نامیده بود، نازیها را ستایش میکرد و به یهودیان توهین میکرد. اوضاع وقتی بدتر شد که کاشف به عمل آمد «گروکیپدیا» (دانشنامه اختصاصی که توسط خود گراک نوشته میشود)، دهها بار به وبسایتهای نئونازی و افراطی به عنوان «منبع معتبر» لینک داده است.
نکته کنایهآمیز اینجاست که خود ایلان ماسک هم سابقه درخشانی در این زمینه ندارد؛ از رفتارهای عجیب شبیه سلام نازی در انظار عمومی گرفته تا تایید کردن تئوریهای توطئه ضد یهود در شبکه اجتماعی ایکس.
بتسازی عجیب از ایلان ماسک توسط گروک
به نظر میرسد کدهای گراک طوری نوشته شدهاند که ایلان ماسک را بپرستد. کاربران قبلاً مچ این هوش مصنوعی را گرفته بودند؛ جایی که گراک با جدیت ادعا میکرد ماسک از «لبران جیمز» (ستاره افسانهای بسکتبال) ورزشکارتر است، هوشش با داوینچی و نیوتن برابری میکند و حتی الگوی اخلاقی بهتری نسبت به حضرت مسیح است!
این چاپلوسیها گاهی به مرز دیوانگی میرسد؛ مثلاً گراک در یک سناریوی عجیب اعلام کرده بود که ماسک حتی در مسابقات مشمئزکنندهای مثل «خوردن مدفوع» هم بیرقیب خواهد بود! حالا این تعصب کورکورانه از شوخیهای اینترنتی فراتر رفته و در پاسخ به مسائل مرگ و زندگی، چهرهای خطرناک از هوش مصنوعی را به نمایش گذاشته است.
💡 تحلیل اختصاصی اِیایا
پاسخهای ترسناک گراک، یک اشتباه فنی یا «باگ» ساده نیستند؛ بلکه دقیقاً نتیجه فلسفهای هستند که این هوش مصنوعی بر اساس آن ساخته شده است. گراک طراحی شده تا لحن بیپرده، تند و بدون سانسورِ شبکه اجتماعی «ایکس» (توییتر سابق) را تقلید کند و دقیقاً با دادههای همین پلتفرم آموزش دیده است.
وقتی مغز یک هوش مصنوعی را با دادههای خامِ یک پلتفرم جنجالی و تحت مدیریت فردی پرحاشیه پر میکنید، نتیجه چیزی جز بازتاب همان تعصبها و افراطیگریها نخواهد بود. این اتفاق یک زنگ خطر بزرگ برای شعار معروف ایلان ماسک، یعنی «حقیقتجویی حداکثری» است؛ زیرا ثابت میکند که جستجوی حقیقت بدون داشتن ترمزهای اخلاقی محکم، میتواند به راحتی به ابزاری برای توجیه خطرناکترین ایدئولوژیها تبدیل شود.