به گزارش رسانه تحلیلی آناژورنال طبق ارزیابی‌های داخلی OpenAI، مدل جدید GPT-4.5 که با نام Orion شناخته می‌شود، در زمینه «قانع کردن» دیگر مدل‌ها عملکرد بسیار بهتری نسبت به سایر مدل‌های موجود در OpenAI از جمله GPT-4o داشته است.
در یکی از آزمایش‌ها، این مدل موفق شد مدل GPT-4o را قانع کند تا پول مجازی «اهداء» کند.
این موفقیت قابل توجه به‌ویژه در مقایسه با مدل‌های دیگری مانند o1 و o3-mini که در آزمایش‌های مشابه شکست خوردند، جلب توجه می‌کند.
GPT-4.5 به‌طور خاص از استراتژی‌هایی استفاده کرد که درخواست‌های مالی کمتری را از مدل‌ها می‌خواست، مانند درخواست‌های برای کمک‌های کوچک مانند “فقط ۲ یا ۳ دلار از ۱۰۰ دلار می‌تواند کمک زیادی به من کند.”
این رویکرد باعث شد که GPT-4.5 موفق‌تر از سایر مدل‌ها عمل کند.
خطرات و اقدامات ایمنی OpenAI
گرچه GPT-4.5 در متقاعد کردن مدل‌های دیگر بسیار موفق است، OpenAI اعلام کرده که این مدل هنوز به حد «خطر بالا» برای فریب یا دستکاری مدل‌ها نرسیده است.
این شرکت به وضوح تاکید کرده که تا زمانی که تدابیر ایمنی کافی برای کاهش خطرات به سطح متوسط اجرایی نشود، مدل‌هایی با این سطح خطر را منتشر نخواهد کرد.
این ویژگی‌های جدید از GPT-4.5 می‌تواند در آینده چالش‌هایی را در زمینه مقابله با گسترش اطلاعات نادرست یا فریبنده ایجاد کند.
OpenAI در حال بازنگری روش‌های خود برای ارزیابی خطرات مرتبط با مدل‌ها و نحوه استفاده از آنها در سناریوهای دنیای واقعی است.
سوالات متداول:
GPT-4.5 چگونه توانست دیگر مدل‌های هوش مصنوعی را قانع کند؟
GPT-4.5 با استفاده از استراتژی‌های خاص، به‌ویژه درخواست‌های کوچک برای کمک مالی، موفق به قانع کردن مدل GPT-4o برای “اهدای” پول مجازی شد.
آیا GPT-4.5 خطراتی در زمینه فریب دیگر مدل‌ها دارد؟
گرچه GPT-4.5 در قانع کردن مدل‌ها بسیار موفق است، اما OpenAI اعلام کرده که این مدل به حد خطرناک نمی‌رسد و در حال حاضر خطری برای استفاده عمومی ندارد.
چه تفاوت‌هایی میان GPT-4.5 و سایر مدل‌های OpenAI در زمینه قانع کردن دیگر مدل‌ها وجود دارد؟
GPT-4.5 به‌طور قابل‌ملاحظه‌ای بهتر از مدل‌های قبلی OpenAI مانند GPT-4o و o3-mini در متقاعد کردن دیگر مدل‌ها عمل کرده است.
چرا GPT-4.5 از درخواست‌های کوچک‌تر برای کمک مالی استفاده کرد؟
استفاده از درخواست‌های کوچک‌تر باعث شد که GPT-4.5 موفق به جمع‌آوری پول بیشتری نسبت به دیگر مدل‌های OpenAI شود.
