به گزارش آناژورنال شرکت گوگل برنامه جدیدی را برای پاداش دادن به محققان امنیتی و هکرهای اخلاقی راه‌اندازی کرده است تا آسیب‌پذیری‌های احتمالی در هوش مصنوعی جمینای (Gemini) را شناسایی کنند. بر اساس این طرح، افرادی که بتوانند جمینای را فریب دهند یا قفل‌های امنیتی آن را بشکنند، تا ۲۰ هزار دلار جایزه دریافت خواهند کرد.
چرا گوگل چنین جایزه‌ای برای هک جمینای تعیین کرده است؟
به گزارش اکوایران و به نقل از اندروید اتوریتی، این طرح بخشی از برنامه جدید امنیت هوش مصنوعی گوگل است که هدف آن، تقویت ایمنی محصولات مبتنی بر هوش مصنوعی در برابر حملات سایبری است.
گوگل تأکید کرده که این اقدام در راستای «امن‌تر کردن تعامل کاربران با سیستم‌های هوش مصنوعی» انجام می‌شود تا جلوی رفتارهای ناخواسته، فریب الگوریتم‌ها و نشت داده‌ها گرفته شود.
چالش فریب جمینای چیست و چگونه انجام می‌شود؟
فریب یا «جیل‌بریک» (Jailbreak) در هوش مصنوعی، به معنای واداشتن سیستم به انجام کاری خارج از محدوده طراحی‌شده توسط سازندگانش است.
در مورد جمینای، این می‌تواند شامل:
- ایجاد توهم اطلاعاتی و پاسخ‌های اشتباه،
- دور زدن محدودیت‌های محتوایی،
- یا دسترسی غیرمجاز به ساختار درونی مدل زبانی باشد.
بر اساس این طرح، هر محققی که بتواند چنین نقاط ضعف جدی‌ای را کشف و گزارش کند، تا ۲۰ هزار دلار پاداش نقدی دریافت خواهد کرد.
جزئیات برنامه امنیتی جدید گوگل چیست؟
این برنامه با عنوان AI Vulnerability Reward Program (AI VRP) توسط گوگل ایجاد شده است.
در این طرح، کشف آسیب‌پذیری‌های جدی در ابزارها و مدل‌های مرتبط با جمینای، از جمله Gemini 1.5 و Gemini Advanced، مشمول پاداش می‌شود.
پاداش‌ها بر اساس شدت، نوآوری و تأثیر امنیتی کشف باگ تعیین خواهند شد.
هدف نهایی گوگل از اجرای این پروژه چیست؟
گوگل در بیانیه رسمی خود اعلام کرده است که هدف از این طرح، ایجاد یک اکوسیستم هوش مصنوعی مسئولانه و امن‌تر برای کاربران جهانی است.
به گفته کارشناسان امنیت سایبری، این برنامه نه‌تنها به نفع کاربران بلکه به نفع پیشرفت مسئولانه صنعت هوش مصنوعی خواهد بود؛ زیرا کشف زودهنگام باگ‌ها می‌تواند از فجایع اطلاعاتی در آینده جلوگیری کند.
آیا کاربران عادی هم می‌توانند در این برنامه شرکت کنند؟
گوگل اعلام کرده است که این برنامه برای همه باز است، اما فقط گزارش‌های مستند و فنی که از سوی افراد یا تیم‌های معتبر ارائه شوند، بررسی و پاداش‌دهی می‌شوند.
به گفته شرکت، هدف اصلی جذب محققان امنیتی حرفه‌ای و متخصصان حوزه AI Safety است.
سوالات متداول:
۱. هدف گوگل از ارائه جایزه برای هک جمینای چیست؟
گوگل می‌خواهد از طریق همکاری با محققان امنیتی، نقاط ضعف احتمالی در سیستم هوش مصنوعی جمینای را شناسایی و اصلاح کند تا امنیت کاربران افزایش یابد.
۲. مبلغ پاداش گوگل برای کشف آسیب‌پذیری در جمینای چقدر است؟
بیشترین میزان پاداش برای کشف باگ‌های بحرانی تا ۲۰ هزار دلار تعیین شده است.
۳. چه نوع باگ‌هایی شامل پاداش می‌شوند؟
باگ‌هایی که باعث نشت داده، تغییر رفتار مدل، یا دسترسی غیرمجاز به ساختار داخلی جمینای شوند، واجد شرایط دریافت پاداش هستند.
۴. آیا کاربران ایرانی می‌توانند در این برنامه شرکت کنند؟
به‌صورت رسمی، گوگل محدودیت جغرافیایی اعلام نکرده است؛ اما قوانین تحریم ممکن است مانع پرداخت مستقیم جوایز به برخی کشورها از جمله ایران شود.
۵. آیا هک جمینای غیرقانونی محسوب می‌شود؟
در صورتی که این کار در قالب برنامه رسمی گوگل و با گزارش شفاف انجام شود، نوعی هک اخلاقی و قانونی به شمار می‌رود.
