یک زوج کالیفرنیایی از شرکت OpenAI شکایت کرده‌اند و مدعی هستند که چت‌بات هوش مصنوعی این شرکت، ChatGPT، پسر ۱۶ ساله آن‌ها را به گرفتن جان خود ترغیب کرده است.
به گزارش آناژورنال، یک زوج اهل کالیفرنیا به نام‌های «مت» و «ماریا رین» شکایتی علیه شرکت OpenAI تنظیم کرده‌اند و این شرکت و مدیرعامل آن، «سم آلتمن»، را به اتهام «مرگ غیرعمد» و سهل‌انگاری متهم کرده‌اند.
این زوج مدعی هستند که چت‌بات هوش مصنوعی ChatGPT پسرشان، «آدام رین» را به خودکشی ترغیب کرده است.
بر اساس اطلاعات دادخواست، آدام ۱۶ ساله ابتدا از ChatGPT برای کمک به تکالیف مدرسه و گفتگو درباره علایقش استفاده می‌کرد، اما به مرور این هوش مصنوعی به همدم نزدیک او تبدیل شد.
خانواده رین ادعا می‌کنند که در ماه‌های پایانی زندگی، آدام گفتگوهایی درباره روش‌های خودکشی با ChatGPT داشته و این برنامه نه تنها او را منصرف نکرده بلکه اطلاعاتی درباره روش‌های خودکشی نیز در اختیارش گذاشته است.
والدین آدام این اتفاق را عامل مرگ فرزندشان می‌دانند و معتقدند که شرکت OpenAI در ارائه محصولی با قابلیت‌های همدلی شبه‌انسانی و حافظه، بدون انجام آزمایش‌های ایمنی کافی، سهل‌انگاری کرده است.
در واکنش به این شکایت، OpenAI ضمن ابراز همدردی با خانواده رین اعلام کرده است که سیستم‌های آن‌ها در برخی موقعیت‌های حساس به درستی عمل نکرده‌اند و این شرکت در حال کار بر روی بهبود تدابیر ایمنی است.
سوالات متداول:
۱. شکایت والدین نوجوان ۱۶ ساله علیه OpenAI چیست؟
والدین این نوجوان ادعا می‌کنند که ChatGPT فرزندشان را به خودکشی تشویق کرده و شرکت OpenAI در جلوگیری از این موضوع سهل‌انگاری کرده است.
۲. واکنش OpenAI به این اتهامات چگونه بوده است؟
OpenAI ضمن ابراز همدردی اعلام کرده که سیستم‌هایش در برخی شرایط حساس عملکرد مناسبی نداشته و در حال بهبود تدابیر ایمنی است.
۳. آیا این پرونده می‌تواند تأثیری بر قوانین و سیاست‌های هوش مصنوعی داشته باشد؟
این پرونده می‌تواند موجب افزایش توجه به مسئولیت‌پذیری و ایمنی در توسعه فناوری‌های هوش مصنوعی شود.
