به گزارش آناژورنال، تیمی تحقیقاتی در مایکروسافت از کشف آسیب‌پذیری «روز صفر» در سامانه‌های غربالگری زیست‌امنیتی خبر داده که نشان می‌دهد هوش مصنوعی می‌تواند راه‌هایی برای دورزدنِ محافظت‌های طراحی‌شده علیه سوءاستفاده از توالی‌های ژنتیکی بیابد.
مطالعات مایکروسافت چه یافته‌ای را گزارش می‌کنند؟
محققان به رهبری اریک هورویتز روی الگوریتم‌های مولد هوش مصنوعی کار کردند و نشان دادند برخی طراحی‌های مولکولی پیشنهادی توسط این مدل‌ها می‌توانند از سامانه‌های غربالگری که برای شناسایی توالی‌های خطرناک توسعه یافته‌اند، عبور کنند.
یافته‌ها در نشریه Science منتشر شده و تیم پژوهشی تأکید کرده آزمایش‌ها دیجیتال بوده و هیچ مولکول سمی یا پاتوژن واقعی تولید نشده است.
این سامانه‌های غربالگری چگونه کار می‌کنند؟
سامانه‌های غربالگری زیست‌امنیتی سفارش‌های توالی DNA را با پایگاه‌های داده توالی‌های شناخته‌شده سموم و پاتوژن‌ها مقایسه می‌کنند و در صورت تطابق نزدیک، هشدار صادر می‌شود.
پژوهش مایکروسافت نشان داده است که طراحی مولکولی با ابزارهای هوش مصنوعی می‌تواند ساختار توالی‌ها را طوری تغییر دهد که از تشخیص این سامانه‌ها فرار کنند—یک آسیب‌پذیری با کارکرد «روز صفر» که پیش از این برای مدافعان ناشناخته بود.
آیا این پژوهش خطرناک است؟
تیم مایکروسافت اعلام کرده که آزمایش‌ها کاملاً دیجیتال بوده و هدف آن ارزیابیِ ریسک و آگاه‌سازی مدافعان و سیاست‌گذاران است. پژوهشگران پیش از انتشار نتایج، دولت ایالات‌متحده و تولیدکنندگان نرم‌افزارهای غربالگری را مطلع کردند. با این حال، نویسندگان هشدار می‌دهند که برخی مولکول‌های طراحی‌شده هنوز هم ممکن است از شناسایی فرار کنند و این موضوع نگرانی‌های واقعی درباره سوءاستفاده از فناوری‌های هوش مصنوعی در زیست‌شناسی را تشدید می‌کند.
پیامدهای فناوری و ریسک‌های دوگانه (Dual use) چیست؟
الگوریتم‌های مولد که برای کشف داروها و طراحی پروتئین‌های مفید به‌کار می‌روند، ماهیت دوگانه‌ای دارند و بالقوه می‌توانند برای طراحی مولکول‌های مضر نیز استفاده شوند.
این واقعیت نیاز به مجموعه‌ای از اقدامات حفاظتی، شامل بهبود سامانه‌های غربالگری، تنظیم‌گری هوشمند و همکاری میان شرکت‌های فناوری و نهادهای دولتی را برجسته می‌کند.
محققان چه توصیه‌هایی مطرح کرده‌اند؟
پژوهشگران بر لزوم تقویت مکانیزم‌های غربالگری، توسعه روش‌های مقاوم در برابر دورزدنِ مبتنی بر هوش مصنوعی، شفافیت در انتشار تحقیقات حساس و ایجاد سازوکارهای قانون‌گذاری و اخلاقی بین‌المللی تأکید کرده‌اند.
آن‌ها همچنین خواستار همکاری گسترده میان شرکت‌های فناوری، جامعه علمی و مقامات امنیتی برای کاهش خطر احتمالی سوءاستفاده شده‌اند.
سوالات متداول
مایکروسافت دقیقاً چه کاری انجام داد؟
تیم تحقیقاتی مایکروسافت با استفاده از ابزارهای مولد هوش مصنوعی نشان داد که طراحی‌های مولکولی می‌توانند از سامانه‌های غربالگری زیست‌امنیتی عبور کنند؛ آزمایش‌ها دیجیتال بودند و هیچ موجود زنده یا سم تولید نشد.
این یافته چه خطری دارد؟
یافته‌ها نشان می‌دهند ابزارهای هوش مصنوعی می‌توانند آسیب‌پذیری‌هایی در سامانه‌های محافظتی ایجاد کنند که احتمال سوءاستفاده توسط بازیگران بداندیش را افزایش می‌دهد و نیاز به تقویت دفاع‌ها را جلو می‌اندازد.
آیا محققان هشدارها را پیش از انتشار داده‌اند؟
بله، پژوهشگران پیش از انتشار نتایج، مقامات دولتی و تولیدکنندگان نرم‌افزارهای غربالگری را مطلع کردند.
چه اقداماتی برای کاهش ریسک پیشنهاد شده است؟
تقویت سامانه‌های غربالگری، توسعه روش‌های تشخیص مقاوم در برابر دورزدن مبتنی بر هوش مصنوعی، همکاری بین‌بخشی و قوانین بین‌المللی مناسب از جمله توصیه‌ها هستند.
آیا مردم باید نگران تولید سلاح‌های بیولوژیک باشند؟
این پژوهش نگرانی‌ها را تشدید می‌کند اما محققان تأکید دارند کارها باید در چارچوب مسئولانه و تحت نظارت انجام شود و انتشار یافته‌ها با هدف بهبود دفاع‌ها و کاهش ریسک صورت گرفته است.
