به گزارش رسانه تحلیلی خبری آناژورنال شرکت متا (Meta) روز پنجشنبه اعلام کرد که از شرکت Joy Timeline HK Limited، سازنده اپلیکیشن CrushAI، در هنگ‌کنگ به دلیل استفاده نادرست از فناوری هوش مصنوعی برای تولید تصاویر برهنه جعلی از افراد واقعی شکایت کرده است.
هدف این شکایت، جلوگیری از تبلیغ این اپلیکیشن در پلتفرم‌های فیسبوک و اینستاگرام است.
جدیدترین اخبار تکنولوژی را در آناژورنال بخوانید.
متا ادعا کرده است که Joy Timeline تلاش کرده با دور زدن سیستم بررسی تبلیغات متا، اپلیکیشن خود را تبلیغ کند؛ ابزاری که به کاربران این امکان را می‌دهد تا تصویر هر فردی را به‌صورت برهنه شبیه‌سازی کنند.
«این اقدام حقوقی نشان‌دهنده تعهد ما برای محافظت از جامعه کاربران در برابر چنین سوءاستفاده‌هایی است» — بیانیه متا
نقض سیاست‌ها و سوءاستفاده از فناوری
متا تأکید کرده است که هرگونه تصویر خصوصی غیررضایتی ممنوع است.
با وجود این، تبلیغات اپلیکیشن CrushAI در فیسبوک و اینستاگرام منتشر شده‌اند. پس از گزارش شبکه CBS، متا تبلیغات را حذف، صفحات مرتبط را مسدود و وب‌سایت‌های آن را از دسترس خارج کرده است.
شرکت متا همچنین اعلام کرد که برخی از تبلیغ‌دهندگان تلاش کرده‌اند با استفاده از تصاویر بی‌ضرر، سیستم تشخیص محتوای آن‌ها را گول بزنند.
در پاسخ، متا فناوری خود را برای شناسایی بهتر چنین تبلیغاتی به‌روز کرده است.
اشتراک اطلاعات با سایر شرکت‌ها
متا همچنین اطلاعات مربوط به این‌گونه متخلفان (از جمله آدرس تبلیغات) را از طریق برنامه Lantern وابسته به ائتلاف فناوری (Tech Coalition) با سایر شرکت‌های فناوری به اشتراک می‌گذارد.
از اسفند سال گذشته تا کنون، متا اطلاعات بیش از ۳۸۰۰ وب‌سایت متخلف را در اختیار این برنامه قرار داده است.
سوالات متداول:
اپلیکیشن CrushAI چیست؟
CrushAI برنامه‌ای است که با استفاده از هوش مصنوعی، تصاویر برهنه جعلی از افراد واقعی تولید می‌کند.
چرا متا از Joy Timeline شکایت کرده است؟
به دلیل تبلیغ محتوای غیرقانونی و مغایر با سیاست‌های فیسبوک و اینستاگرام.
این شکایت در کجا ثبت شده است؟
در هنگ‌کنگ، محل ثبت شرکت Joy Timeline HK Limited.
متا تاکنون چه اقداماتی علیه CrushAI انجام داده است؟
حذف تبلیغات، مسدودسازی صفحات و بلاک کردن دامنه‌های مرتبط.
سیاست متا درباره تصاویر برهنه جعلی چیست؟
هرگونه تصویر خصوصی و برهنه بدون رضایت شخص ممنوع است.
CrushAI چگونه سعی کرده سیستم‌های متا را فریب دهد؟
با استفاده از تصاویر بی‌ضرر برای دور زدن سیستم شناسایی محتوا.
برنامه Lantern چیست؟
بستری برای اشتراک اطلاعات درباره سوءاستفاده از فناوری و محتوای آسیب‌زا بین شرکت‌های بزرگ فناوری.
متا چند سایت متخلف را به Lantern گزارش داده است؟
بیش از ۳۸۰۰ سایت متخلف از اسفند ماه تا کنون.
آیا اپلیکیشن CrushAI هنوز در دسترس است؟
متا اقدامات جدی برای محدودسازی آن انجام داده، اما ممکن است در برخی کشورها همچنان قابل دسترس باشد.
این پرونده چه تأثیری بر آینده محتوای تولیدشده با هوش مصنوعی دارد؟
احتمالاً منجر به قوانین سخت‌گیرانه‌تر علیه محتوای غیرقانونی یا غیراخلاقی تولیدشده با AI خواهد شد.
