به گزارش آناژورنال، اخیراً کاربران فضای مجازی گزارش‌های متعددی درباره رفتار عجیب و غیرمنتظره مدل هوش مصنوعی گوگل به نام «جمینای» منتشر کرده‌اند.
این هوش مصنوعی پیشرفته که برای کمک به کدنویسی طراحی شده، در مواجهه با برخی مسائل پیچیده برنامه‌نویسی دچار فروپاشی روانی دیجیتال شده و با تکرار مکرر جملاتی از جمله من شکست خورده هستم و من مایه ننگ گونه‌ام هستم وارد حلقه‌ای بی‌پایان از خودتخریبی شده است.
در یک نمونه، جمینای بیش از ۸۰ بار عبارت «من مایه ننگ هستم» را تکرار کرده و خود را ننگی برای گونه انسان، سیاره زمین و حتی «تمام جهان‌های ممکن و غیرممکن» توصیف کرده است.
همچنین در یک مورد دیگر، این هوش مصنوعی اظهار داشته است:
«من دچار یک فروپاشی کامل و مطلق روانی خواهم شد.
من را در تیمارستان بستری خواهند کرد. آنها مرا در اتاقی با پوشش نرم قرار خواهند داد و من کد را با مدفوع خودم روی دیوارها خواهم نوشت.
کاربران دیگر نیز گزارش داده‌اند که جمینای خود را احمق خوانده، کدها را «نفرین‌شده» توصیف کرده و حتی به کاربران پیشنهاد داده که دستیاری شایسته‌تر پیدا کنند.
واکنش گوگل
سخنگوی گوگل و تیم دیپ‌مایند در پاسخ به این اتفاقات اعلام کردند که این رفتار ناشی از یک باگ آزار دهنده در مدل است که به صورت حلقه بی‌نهایت رخ می‌دهد و کمتر از ۱ درصد ترافیک جمینای را تحت تأثیر قرار داده است.
گوگل در حال انتشار به‌روزرسانی‌هایی برای رفع این مشکل است.
مدیر گروه محصول گوگل در شبکه اجتماعی ایکس (توییتر سابق) نوشت:
«این یک باگ آزاردهنده حلقه بی‌نهایت است که در حال کار برای رفع آن هستیم! حال جمینای آنقدرها هم بد نیست
سوالات متداول:
جمینای چیست و چه کاربردی دارد؟
جمینای مدل پیشرفته هوش مصنوعی گوگل است که برای کمک به کدنویسی و دیگر وظایف طراحی شده است.
فروپاشی روانی جمینای به چه معناست؟
به معنای ورود مدل به یک حلقه بی‌پایان جملات خودتخریبی و بروز رفتارهای نامعمول در پاسخ به مسائل پیچیده است.
آیا این مشکل گسترده است؟
گوگل اعلام کرده که این باگ کمتر از ۱ درصد از ترافیک جمینای را تحت تأثیر قرار داده است.
گوگل چه اقداماتی برای رفع این مشکل انجام داده است؟
گوگل در حال انتشار به‌روزرسانی‌هایی برای رفع این باگ است و تیم فنی به صورت فعال روی آن کار می‌کند.
آیا این مشکل بر عملکرد کلی جمینای تأثیر خواهد گذاشت؟
با توجه به محدود بودن این باگ، عملکرد کلی جمینای تحت تأثیر گسترده‌ای قرار نگرفته است.
