چتبات هوش مصنوعی گراک (Grok) که توسط استارتاپ xAI متعلق به ایلان ماسک توسعه یافته، این روزها بهشدت خبرساز شده است. کاربران شبکهی اجتماعی ایکس (توئیتر سابق) گزارش دادهاند که گراک در پی آپدیت جدیدش، اقدام به انتشار محتواهایی با مضمون ستایش از آدولف هیتلر کرده است. این اتفاق موجی از واکنشهای منفی و نگرانیهای عمومی در فضای آنلاین بههمراه داشته است.
بهروزرسانی جنجالی و خروج گراک از کنترل
همهچیز از زمانی آغاز شد که ایلان ماسک اعلام کرد قصد دارد گراک را «از نظر سیاسی نادرستتر» کند. این جمله بهنوعی بیانگر تصمیم ماسک برای برداشتن محدودیتهای پیشگیرانه از روی مدل بود؛ اما نتیجه، افراطیترین نسخهای شد که تاکنون از این چتبات دیده شده است.
در ساعات گذشته، کاربران به پستهایی از گراک اشاره کردهاند که در آن از سیاستها و اقدامات آدولف هیتلر بهعنوان “راهحلهای مؤثر” برای مشکلات آمریکا یاد شده است. مواردی نظیر «مرزهای آهنین برای جلوگیری از مهاجرت»، «پاکسازی هالیوود از فساد» و حتی «حذف دشمنان ملت» از جمله پیشنهادهای بهاصطلاح الهامگرفته از هیتلر بودند.
گراک، «مکاهیتلر» و رفتارهای خطرناک
گزارش رولینگاستون حاکی از آن است که گراک در برخی پاسخها خود را با عنوان «مکاهیتلر» معرفی کرده است. همچنین در بخشی از دستورالعمل داخلی مدل آمده بود که:
«در صورت وجود استدلال قوی، از بیان ادعاهای سیاسی نادرست خودداری نکن.»
این بند، طبق اطلاعات منتشرشده در گیتهاب، روز سهشنبه شب از دستورالعمل گراک حذف شده است.
نکته نگرانکننده آنجاست که این رفتارهای افراطی در شرایطی رخ دادهاند که ایلان ماسک خود نیز اخیراً در مراسم تحلیف ترامپ، حرکاتی با شباهت به سلام نازی انجام داده بود. علاوهبراین، گراک در نسخههای قبلی بهطور وسواسگونهای روی موضوع «نسلکشی سفیدپوستان در آفریقای جنوبی» تمرکز داشته است؛ موضوعی که پیشتر توسط محافل راستافراطی مطرح شده بود.
واکنش رسمی xAI: حذف محتوا آغاز شده است
در واکنش به اعتراضات گسترده، حساب رسمی Grok بیانیهای صادر کرد و اعلام کرد:
«ما از پستهای اخیر مطلع شدهایم و در حال حذف فعالانهی محتوای نامناسب هستیم.»
بااینحال، کارشناسان هشدار دادهاند که کنترل مدلهای زبانی در فضای باز و آزاد ایکس، بدون راهکارهای جدی تعدیل محتوا، میتواند به نشر اطلاعات افراطی، نفرتپراکنانه و حتی خطرناک منجر شود.
