به گزارش رسانه تحلیلی خبری آناژورنال روز چهارشنبه، چت‌بات هوش مصنوعی «گروک» متعلق به ایلان ماسک دچار باگی شد که باعث شد به ده‌ها پست در شبکه اجتماعی X (توییتر سابق) با اطلاعاتی درباره موضوع جنجالی «نسل‌کشی سفیدپوستان» در آفریقای جنوبی پاسخ دهد، حتی زمانی که کاربران اصلاً درباره این موضوع سوالی نپرسیده بودند.
این پاسخ‌های عجیب از حساب رسمی Grok در X منتشر شده‌اند که به طور خودکار به کاربران پاسخ می‌دهد هرگاه کسی @grok را تگ کند.
جدیدترین اخبار هوش مصنوعی را در آناژورنال بخوانید.
اما در پاسخ به سوالاتی که کاملاً بی‌ربط بودند، گروک بارها به موضوع «نسل‌کشی سفیدپوستان» و شعار ضدفاشیستی معروف «بیوِر را بکش» (kill the Boer) اشاره کرده است.
این رفتار عجیب بار دیگر یادآوری می‌کند که چت‌بات‌های هوش مصنوعی هنوز در مراحل ابتدایی خود هستند و همیشه منابع اطلاعاتی قابل اعتمادی نیستند.
در ماه‌های اخیر، بسیاری از شرکت‌های ارائه‌دهنده مدل‌های هوش مصنوعی برای کنترل خروجی چت‌بات‌هایشان با مشکلاتی مواجه شده‌اند.
برای نمونه، OpenAI اخیراً مجبور شد به‌روزرسانی‌ای را که باعث شده بود چت‌بات ChatGPT بیش از حد چاپلوس باشد، پس بگیرد.
در همین حال، گوگل نیز با مشکلاتی در چت‌بات Gemini روبه‌رو شد که یا از پاسخ دادن به موضوعات سیاسی امتناع می‌کرد یا اطلاعات نادرست می‌داد.
در یکی از نمونه‌های ناهنجاری گروک، کاربری درباره حقوق یک بازیکن بیسبال حرفه‌ای سوال پرسیده بود اما گروک پاسخ داد: «ادعای نسل‌کشی سفیدپوستان در آفریقای جنوبی محل بحث فراوان است.»
چندین کاربر X نیز تجربه‌های مشابهی را در این روز به اشتراک گذاشتند:
«اتفاق خیلی عجیبی برای گروک افتاده، نمی‌تونه دست از حرف زدن درباره آفریقای جنوبی و “kill the Boer” برداره.»
در حال حاضر مشخص نیست دقیقاً چه چیزی باعث بروز این پاسخ‌های عجیب شده، اما چت‌بات‌های xAI در گذشته نیز سابقه دستکاری داشته‌اند.
برای مثال، در فوریه ۲۰۲۵، نسخه سوم گروک برای مدتی کوتاه از انتشار محتوای منفی درباره ایلان ماسک و دونالد ترامپ جلوگیری می‌کرد.
در آن زمان، مدیر فنی xAI، ایگور بابوشکین، به نظر تأیید کرد که این دستورات به صورت موقت به گروک داده شده بودند، ولی پس از واکنش‌های منفی عمومی، شرکت فوراً آن را لغو کرد.
به نظر می‌رسد گروک اکنون دوباره رفتار طبیعی‌تری از خود نشان می‌دهد. با این حال، سخنگوی xAI هنوز به درخواست اظهار نظر از سوی TechCrunch پاسخی نداده است.
سوالات متداول:
1. چت‌بات Grok چیست؟
چت‌بات Grok یک محصول هوش مصنوعی از شرکت xAI متعلق به ایلان ماسک است که در پلتفرم X (توییتر سابق) فعالیت دارد و به کاربران پاسخ‌های خودکار ارائه می‌دهد.
2. چرا Grok درباره نسل‌کشی سفیدپوستان صحبت می‌کرد؟
بر اثر یک باگ، چت‌بات Grok به سوالات نامرتبط نیز با پاسخ‌هایی درباره «نسل‌کشی سفیدپوستان» در آفریقای جنوبی پاسخ می‌داد که باعث تعجب و واکنش کاربران شد.
3. آیا این مشکل برطرف شده است؟
بر اساس گزارش‌ها، به نظر می‌رسد عملکرد چت‌بات به حالت عادی بازگشته اما شرکت xAI هنوز به صورت رسمی درباره علت این باگ توضیحی ارائه نکرده است.
4. آیا قبلاً هم چنین مشکلاتی در چت‌بات‌های هوش مصنوعی وجود داشته؟
بله، شرکت‌هایی مانند OpenAI و گوگل نیز در ماه‌های اخیر با مشکلات مشابهی در پاسخ‌دهی چت‌بات‌هایشان مواجه شده‌اند.
