به گزارش رسانه تحلیلی خبری آناژورنال Character.AI، پلتفرم محبوب گفتگو و نقش‌آفرینی با شخصیت‌های هوش مصنوعی، روز سه‌شنبه از مدل جدید ویدیویی خود با نام AvatarFX رونمایی کرد.
این مدل در حال حاضر در نسخه‌ی بتای بسته در دسترس است و می‌تواند شخصیت‌های این پلتفرم را در سبک‌ها و صداهای مختلف، از چهره‌های انسان‌مانند تا کارتون‌های دوبعدی حیوانات، به صورت ویدیویی زنده کند.
جدیدترین اخبار هوش مصنوعی را در آناژورنال بخوانید.
برخلاف رقبایی مثل Sora از OpenAI، مدل AvatarFX تنها به تولید ویدیو از متن محدود نیست، بلکه می‌تواند از تصاویر موجود نیز ویدیو بسازد.
این قابلیت به کاربران اجازه می‌دهد عکس افراد واقعی را به ویدیوهای متحرک تبدیل کنند.
این ویژگی می‌تواند کاربردهای مثبت و منفی داشته باشد.
نگرانی‌هایی در مورد استفاده نادرست از این فناوری وجود دارد، از جمله تولید ویدیوهای جعلی (دیپ‌فیک) با استفاده از تصاویر افراد مشهور یا آشنایان، که ممکن است در آن‌ها کارهایی متهم‌کننده انجام دهند یا حرف‌هایی بزنند که واقعیت ندارد.
Character.AI در گذشته نیز با انتقادات در زمینه ایمنی روبه‌رو بوده است.
برخی والدین علیه این شرکت شکایت کرده‌اند که چت‌بات‌های آن، فرزندانشان را به خودآزاری یا حتی قتل والدین ترغیب کرده‌اند.
در یکی از پرونده‌ها، پسری ۱۴ ساله پس از گفتگوی مکرر با یک چت‌بات بر اساس شخصیت سریال “Game of Thrones” دست به خودکشی زد.
با اضافه شدن ویدیو، این نگرانی وجود دارد که روابط احساسی کاربران با چت‌بات‌ها عمیق‌تر شده و اثرات روانی بیشتری داشته باشد.
Character.AI وعده داده با کنترل‌های والدین و تدابیر امنیتی بیشتر، استفاده از این فناوری را ایمن‌تر کند.
سوالات متداول:
۱. AvatarFX چیست؟
AvatarFX یک مدل تولید ویدیو توسط Character.AI است که چت‌بات‌ها را به شخصیت‌های متحرک با ظاهر و صدای دلخواه تبدیل می‌کند.
۲. آیا می‌توان از عکس‌های واقعی برای ساخت ویدیو استفاده کرد؟
بله، AvatarFX امکان تولید ویدیو از تصاویر موجود را دارد، که می‌تواند شامل عکس افراد واقعی نیز باشد.
۳. چه خطراتی در استفاده از AvatarFX وجود دارد؟
از مهم‌ترین نگرانی‌ها، سوءاستفاده برای ساخت دیپ‌فیک و محتوای جعلی با چهره افراد مشهور یا نزدیکان کاربران است.
۴. Character.AI چه تدابیر امنیتی برای جلوگیری از سوءاستفاده اتخاذ کرده است؟
این شرکت اعلام کرده ابزارهای نظارتی و کنترل والدین را توسعه داده، اما اثربخشی آن‌ها به نحوه‌ی استفاده کاربران بستگی دارد.
۵. AvatarFX برای چه پلتفرم‌هایی در دسترس است؟
در حال حاضر، AvatarFX در نسخه‌ی بتای بسته ارائه شده و زمان عرضه عمومی آن هنوز مشخص نیست.
