تشخیص صدای واقعی انسان از صدای هوش مصنوعی دیگر ممکن نیست

به گزارش آناژورنال، نتایج یک تحقیق جدید نشان می‌دهد که انسان‌ها دیگر قادر به تشخیص تفاوت بین صدای واقعی و صدای ساخته‌شده با هوش مصنوعی نیستند؛ موضوعی که نگرانی‌های عمیقی درباره امنیت، کلاهبرداری و اخلاق دیجیتال به همراه دارد.

نتایج تحقیق دانشگاه کوئین مری لندن

در این پژوهش، محققان دانشگاه کوئین مری لندن از گروهی از شرکت‌کنندگان خواستند تا به ۸۰ نمونه صوتی گوش دهند و تشخیص دهند کدام‌یک واقعی و کدام‌یک ساخته‌شده با هوش مصنوعی است.
زمانی که صدا به‌صورت کامل توسط هوش مصنوعی تولید می‌شد، افراد در حدود ۵۹ درصد موارد قادر به تشخیص صحیح بودند.

اما زمانی که صدای واقعی یک انسان شبیه‌سازی یا کلون می‌شد، دقت به شدت کاهش یافت و در ۵۸ درصد موارد، صدای جعلی به‌عنوان صدای واقعی انسان شناخته شد.

پیامدهای امنیتی و اخلاقی فناوری کلون صوتی

توانایی هوش مصنوعی در تقلید دقیق صدای انسان، پیامدهای خطرناکی دارد. کارشناسان هشدار می‌دهند که این فناوری می‌تواند برای دور زدن احراز هویت‌های صوتی در بانک‌ها و حتی فریب اعضای خانواده در موقعیت‌های اضطراری استفاده شود.
در یکی از موارد واقعی، زنی به نام «شارون برایت‌ول» با شنیدن صدای تقلیدی دخترش که با هوش مصنوعی ساخته شده بود، ۱۵ هزار دلار از دست داد.

همچنین از این فناوری می‌توان برای ساخت مصاحبه‌های جعلی از سیاستمداران یا افراد مشهور استفاده کرد تا آن‌ها را بی‌اعتبار کند یا باعث ناآرامی اجتماعی شود؛ مانند موردی که از کلون صوتی نخست‌وزیر کوئینزلند برای تبلیغ یک کلاهبرداری بیت‌کوین استفاده شد.

خطر در دسترس بودن گسترده این فناوری

نکته نگران‌کننده دیگر این است که فناوری ساخت کلون صوتی اکنون در دسترس عموم قرار دارد. محققان این صداها را تنها با چند دقیقه نمونه صوتی، بدون دانش فنی خاص و با استفاده از نرم‌افزارهای تجاری ساده ساخته‌اند.
به گفته آن‌ها، حتی مدل‌های ابتدایی و ارزان‌قیمت می‌توانند صدایی تولید کنند که از نظر شنونده معمولی، کاملاً واقعی به نظر برسد.

سوالات متداول

آیا انسان می‌تواند صدای واقعی را از صدای هوش مصنوعی تشخیص دهد؟
تحقیقات جدید نشان می‌دهد که افراد معمولی دیگر قادر به تشخیص دقیق صدای واقعی از صدای ساختگی نیستند.

چرا این موضوع خطرناک است؟
زیرا مجرمان می‌توانند از صدای تقلیدی برای فریب خانواده‌ها، کلاهبرداری مالی و حتی جعل سخنان چهره‌های سیاسی استفاده کنند.

آیا فناوری ساخت صدای هوش مصنوعی پیشرفته است؟
بله، اما نکته نگران‌کننده این است که حتی نسخه‌های ساده و ارزان این فناوری هم صدایی طبیعی و واقعی تولید می‌کنند.

نتایج این تحقیق در کجا منتشر شده است؟
نتایج این پژوهش در ژورنال علمی PLoS One منتشر شده است.