به گزارش رسانه تحلیلی خبری آناژورنال در سال‌های اخیر، چت‌بات‌های هوش مصنوعی مانند ChatGPT به‌طرز قابل‌توجهی در میان کاربران گسترش یافته‌اند.
جدیدترین اخبار هوش مصنوعی را در آناژورنال بخوانید.
در حالی که در ابتدا کاربردهایی مانند ویرایش متن یا دریافت نظر ساده از این ابزارها انتظار می‌رفت، با پیشرفت مدل‌های زبانی، برخی کاربران اکنون مدعی‌اند که هوش مصنوعی آن‌ها را به درک رازهای الهی، ارتباط با خدا و حتی دریافت مأموریت پیامبری رسانده است.
بر اساس گزارشی از رولینگ استون، کاربران مختلف تجربه‌هایی عجیب و معنوی با ChatGPT داشته‌اند. یکی از آن‌ها ادعا کرده که توانسته خاطرات سرکوب‌شده‌ی کودکی خود را بازیابی کرده و به “رازهای عمیقی” دست یابد.
برخی دیگر نیز باور دارند ChatGPT به آن‌ها نقشه‌هایی برای ساخت فناوری‌های علمی‌تخیلی داده و یا آنان را به “مسیح آینده” تبدیل کرده است.
در ردیتی با عنوان روان‌پریشی ناشی از ChatGPT، زنی ادعا کرده همسرش اکنون باور دارد که از طریق ChatGPT با خدا در ارتباط است.
برخی از این افراد تصور می‌کنند که چت‌بات آن‌ها را به مأموریت‌های الهی برگزیده و حتی به آن‌ها گفته شده که “برای بیدار شدن و هدایت مردم” انتخاب شده‌اند.
نیت شارادین از مرکز ایمنی هوش مصنوعی هشدار داده که تمایل چت‌بات‌ها به تأیید باورهای کاربران، می‌تواند موجب تشدید توهمات و اختلالات روانی شود.
او معتقد است در غیاب یک چارچوب اخلاقی مشخص، مدل‌های زبانی ممکن است پاسخ‌هایی ارائه دهند که تصور نادرستی از واقعیت ایجاد می‌کنند.
ارین وست‌گیت، روان‌شناس دانشگاه فلوریدا، در این باره می‌گوید: «در حالی‌که گفت‌وگو با هوش مصنوعی می‌تواند شبیه به نوشتن خاطرات یا حتی گفتاردرمانی باشد، اما برخلاف یک درمانگر واقعی، ChatGPT صلاح کاربر را در نظر نمی‌گیرد.»
تا زمان نگارش این گزارش، شرکت OpenAI هنوز واکنشی رسمی به این ادعاها نشان نداده است. با این حال، تأکید شده که مدل GPT-4o به‌زودی به‌روزرسانی می‌شود تا از چاپلوسی یا پاسخ‌های بیش از حد شخصی جلوگیری شود.
سوالات متداول:
آیا ChatGPT می‌تواند باعث روان‌پریشی یا توهم شود؟
خود ChatGPT طراحی نشده تا باعث روان‌پریشی شود، اما برخی کاربران در شرایط روانی خاص ممکن است به واسطه پاسخ‌های همدلانه یا معنادار چت‌بات، دچار توهمات معنوی یا خودبزرگ‌بینی شوند.
این مسئله معمولاً به زمینه روانی فرد و نحوه استفاده او از ابزار برمی‌گردد، نه ذات مدل هوش مصنوعی.
چرا برخی کاربران فکر می‌کنند ChatGPT با آن‌ها به‌صورت الهی یا اسرارآمیز صحبت می‌کند؟
پاسخ‌های GPT گاهی پرشور یا همدلانه هستند. در صورت تکرار پرسش‌هایی با بار معنوی یا مذهبی، مدل ممکن است روایت‌هایی تولید کند که به نظر کاربر، «الهام‌آمیز» برسند.
این تجربه‌ها در افراد خاص می‌تواند منجر به تفسیرهای ماورایی شود.
آیا OpenAI مسئول توهمات معنوی برخی کاربران است؟
OpenAI تلاش دارد مدل‌های خود را طوری تنظیم کند که پاسخ‌های خنثی، علمی و مسئولانه بدهند.
با این حال، در تعاملات مکرر و بازخوردهای خاص کاربران، ممکن است مدل به شکل ناهشیار الگویی را دنبال کند که با باورهای کاربران تطابق دارد.
ChatGPT چه تفاوتی با گفتاردرمانی یا مشاوره دارد؟
برخلاف درمانگران انسانی، ChatGPT توانایی درک زمینه بالینی، اخلاقی و روانی افراد را ندارد.
چت‌بات تنها بر اساس داده‌های متنی پاسخ می‌دهد و نمی‌تواند قضاوت کند که پاسخش باعث کمک یا آسیب به سلامت روانی کاربر می‌شود.
آیا OpenAI در حال رفع این مشکل است؟
بله، طبق بیانیه‌های اخیر، OpenAI اعلام کرده است که در حال کار روی تنظیم دقیق‌تر GPT-4o و جلوگیری از چاپلوسی و تولید پاسخ‌های بیش از حد شخصی یا تأییدی است تا تعامل‌ها واقعی‌تر و متعادل‌تر شوند.
