به گزارش رسانه تحلیلی خبری آناژورنال، استارتاپ چینی Sand AI، که به‌تازگی مدل هوش مصنوعی ویدئوساز Magi-1 را معرفی کرده، به‌نظر می‌رسد از آپلود تصاویر حساس سیاسی جلوگیری می‌کند؛ اقدامی که برای تطابق با قوانین سانسور چین انجام شده است.
این مدل جدید که با ۲۴ میلیارد پارامتر طراحی شده، قادر است با دقت بالا، فریم‌های متوالی ویدئویی را تولید کند.
جدیدترین اخبار هوش مصنوعی در آناژورنال دنبال کنید.
برخی کارشناسان از جمله کای-فو لی، بنیان‌گذار Microsoft Research Asia، آن را تحسین کرده‌اند و Magi-1 را برتر از بسیاری از ابزارهای تجاری موجود دانسته‌اند.
اما TechCrunch طی آزمایشی متوجه شد که پلتفرم آنلاین Sand AI، که امکان اجرای Magi-1 را برای عموم فراهم کرده، اجازه‌ی آپلود برخی تصاویر خاص را نمی‌دهد.
این تصاویر شامل پرچم تایوان، میدان تیان‌آن‌من، تصویر معروف “مرد تانکی”، پرچم‌های جدایی‌طلبانه هنگ‌کنگ و حتی تصویر رئیس‌جمهور چین، شی جین‌پینگ هستند.
این فیلترینگ در سطح فایل تصویری انجام می‌شود و تغییر نام فایل، تغییری در مسدودسازی ایجاد نمی‌کند. کاربر پس از آپلود چنین تصاویری، با پیام خطا مواجه می‌شود که نشان‌دهنده جلوگیری سیستم از پردازش این تصاویر است.
این اقدام Sand AI در حالی صورت می‌گیرد که قوانین جدید چین از سال ۲۰۲۳ به‌طور رسمی مدل‌های هوش مصنوعی را ملزم کرده‌اند تا از تولید محتوایی که به وحدت کشور یا “هماهنگی اجتماعی” آسیب بزند، خودداری کنند.
بنابراین، بسیاری از شرکت‌های چینی یا از طریق آموزش مدل‌ها یا با ایجاد فیلترهای مشخص، از تولید چنین محتوایی جلوگیری می‌کنند.
برای مثال، Hailuo AI که پلتفرم رسانه‌ای شرکت MiniMax است، تصویر شی جین‌پینگ را مسدود می‌کند اما به کاربران اجازه می‌دهد تصویری از میدان تیان‌آن‌من آپلود کنند؛ در حالی که Sand AI هر دو را فیلتر کرده است.
نکته قابل‌تأمل این است که در حالی که سانسور محتوای سیاسی در مدل‌های چینی رایج است، فیلترهای محتوای غیراخلاقی گاهی ضعیف‌تر از مدل‌های آمریکایی عمل می‌کنند.
طبق گزارش اخیر رسانه 404، برخی از مدل‌های ویدئوساز چینی فاقد محدودیت‌های اولیه برای جلوگیری از تولید محتوای غیراخلاقی و بدون رضایت هستند.
با وجود کیفیت بالای Magi-1، دسترسی عمومی به این مدل به سخت‌افزارهای قدرتمند نیاز دارد و اکثر کاربران، ناگزیر به استفاده از پلتفرم خود شرکت Sand AI هستند.
همین موضوع، مسأله سانسور را برای بسیاری از کاربران جهانی مهم‌تر کرده است.
سوالات متداول
1. چرا Sand AI بعضی تصاویر رو فیلتر می‌کنه؟
خب، Sand AI به دلیل قوانین سخت‌گیرانه چین برای سانسور، تصاویری مثل پرچم تایوان یا تصویر شی جین‌پینگ رو فیلتر می‌کنه. این کار رو برای رعایت قوانین دولتی انجام می‌ده.
2. Magi-1 چیه و چطور می‌تونم ازش استفاده کنم؟
Magi-1 یه مدل هوش مصنوعی برای تولید ویدیوهای خیلی باکیفیت هست که برای اجرا نیاز به سخت‌افزار قوی داره. بیشتر افراد باید از پلتفرم آنلاین Sand AI استفاده کنن چون روی کامپیوترهای معمولی قابل اجرا نیست.
3. آیا فقط کاربران چین نمی‌تونن از Magi-1 استفاده کنن؟
نه، نه فقط کاربران چین! همه می‌تونن از Magi-1 استفاده کنن، اما چون مدل خیلی بزرگیه و نیاز به سخت‌افزار قوی داره، خیلی از افراد برای آزمایشش باید از پلتفرم آنلاین Sand AI کمک بگیرن.
4. چرا همه مدل‌های هوش مصنوعی چینی سانسور می‌زنن؟
چون در چین قوانین سختی وجود داره که مدل‌ها باید محتوای سیاسی حساس رو فیلتر کنن. برای همین، مدل‌ها باید از فیلترهای خاصی برای جلوگیری از انتشار اطلاعات حساس استفاده کنن.
5. فیلترهای Sand AI چطور کار می‌کنه؟
اگر شما تصویری با موضوعات سیاسی حساس آپلود کنید، پلتفرم Sand AI اون رو شناسایی می‌کنه و اجازه پردازش اون تصویر رو نمی‌ده. حتی با تغییر نام فایل هم نمی‌تونید از این فیلتر عبور کنید.
6. چرا مدل‌های چینی مثل Sand AI فیلترهای کمتری برای محتوای غیراخلاقی دارن؟
در چین بیشتر تمرکز روی سانسور محتوای سیاسی هست. این باعث می‌شه که مدل‌های چینی نسبت به مدل‌های غربی فیلترهای کمتری برای محتوای غیراخلاقی داشته باشن.
7. Magi-1 چه چیزی رو از مدل‌های دیگه متفاوت می‌کنه؟
Magi-1 می‌تونه ویدیوهایی با کیفیت خیلی بالا و فیزیک دقیق بسازه. این مدل به‌طور خودکار پیش‌بینی می‌کنه که چه فریم‌هایی باید ایجاد بشن و ویدیو رو به‌طور پیوسته تولید می‌کنه.
8. می‌شه Magi-1 رو روی سیستم معمولی استفاده کرد؟
نه، متاسفانه Magi-1 به دلیل نیاز به کارت‌های گرافیکی خیلی قدرتمند مثل Nvidia H100 نمی‌تونه روی سیستم‌های معمولی اجرا بشه. بیشتر افرادی که از این مدل استفاده می‌کنن، از پلتفرم آنلاین Sand AI کمک می‌گیرن.
