به گزارش رسانه تحلیلی خبری آناژورنال اوپن‌ای‌آی به‌عنوان بخشی از مدل ChatGPT 4o، قابلیت جدیدی برای تولید تصاویر معرفی کرده که نگرانی‌هایی در مورد جعل اسناد مالی ایجاد کرده است.
جدیدترین اخبار هوش مصنوعی را در رسانه تحلیلی خبری آناژورنال ببینید.
برخی کاربران نشان داده‌اند که ChatGPT می‌تواند رسیدهای پرداختی بسیار واقعی تولید کند که تشخیص جعلی‌بودن آن‌ها دشوار است.
چگونه کاربران از ChatGPT برای ساخت رسیدهای جعلی استفاده می‌کنند؟
دیدی داس، سرمایه‌گذار ریسک‌پذیر، تصویری از یک رسید جعلی خرید را در شبکه‌ی اجتماعی X (توییتر سابق) منتشر کرد و مدعی شد که این تصویر با مدل 4o ساخته شده است.
کاربران دیگر نیز نمونه‌های مشابهی را به اشتراک گذاشته‌اند که نشان می‌دهد این فناوری به ابزار خطرناکی برای کلاهبرداری مالی تبدیل شده است.
آیا رسیدهای جعلی ChatGPT کاملاً بی نقص هستند؟
با بررسی دقیق‌تر می‌توان برخی اشتباهات را مشاهده کرد، مانند:
✔ استفاده نادرست از ویرگول به جای نقطه در قیمت‌ها
✔ اشتباهات محاسباتی در جمع مبالغ
✔ برخی بی‌دقتی‌های فونت و طراحی
با این حال، یک کلاهبردار حرفه‌ای به‌راحتی می‌تواند این ایرادات را اصلاح کند و از این ابزار برای ساخت مدارک جعلی واقعی‌تر بهره ببرد.
نگرانی‌های امنیتی: آیا OpenAI اقدامی انجام خواهد داد؟
تایا کریستینسون، سخنگوی OpenAI، اعلام کرد:
✅ تمام تصاویر ساخته‌شده با ChatGPT متادیتای مخصوص دارند که نشان می‌دهد توسط هوش مصنوعی تولید شده‌اند.
✅ در صورت مشاهده‌ی نقض سیاست‌های استفاده، OpenAI اقدامات لازم را انجام خواهد داد.
✅ این شرکت به‌دنبال راهکارهایی برای جلوگیری از سوءاستفاده از مدل‌های هوش مصنوعی است.
با این حال، سوال بزرگ اینجاست: آیا متادیتای هوش مصنوعی برای جلوگیری از کلاهبرداری کافی است؟
سوالات متداول:
۱. آیا ChatGPT واقعاً می‌تواند رسیدهای پرداخت جعلی بسازد؟
بله، کاربران نشان داده‌اند که مدل ChatGPT 4o می‌تواند تصاویر بسیار واقعی از رسیدهای پرداخت تولید کند که در نگاه اول تشخیص جعلی بودن آن‌ها دشوار است.
۲. چرا این قابلیت نگران‌کننده است؟
زیرا می‌تواند به ابزار جدیدی برای کلاهبرداری و جعل اسناد مالی تبدیل شود. افرادی که قصد فریب دیگران را دارند، ممکن است از این فناوری برای ساخت رسیدهای جعلی خرید، پرداخت یا انتقال وجه استفاده کنند.
۳. آیا OpenAI راهکاری برای جلوگیری از سوءاستفاده دارد؟
OpenAI اعلام کرده که تمام تصاویر تولید‌شده دارای متادیتا هستند که نشان می‌دهد توسط هوش مصنوعی ساخته شده‌اند. همچنین، در صورت نقض سیاست‌های استفاده، ممکن است دسترسی کاربران متخلف به این قابلیت محدود شود.
۴. چگونه می‌توان رسیدهای جعلی ساخته‌شده با هوش مصنوعی را تشخیص داد؟
برخی روش‌های تشخیص شامل:
✔ بررسی دقیق فونت، فاصله‌ی کاراکترها و علائم نگارشی
✔ بررسی اشتباهات محاسباتی یا غیرمنطقی بودن مبالغ
✔ استفاده از ابزارهای تشخیص متادیتای تصویر برای بررسی منبع تولید
۵. آیا ChatGPT می‌تواند سایر مدارک جعلی مانند اسناد حقوقی یا شناسایی نیز بسازد؟
در حال حاضر، OpenAI محدودیت‌هایی برای جلوگیری از تولید اسناد رسمی و هویتی اعمال کرده است. با این حال، همچنان برخی کاربران راه‌هایی برای دور زدن این محدودیت‌ها پیدا می‌کنند.
۶. آیا استفاده از این قابلیت غیرقانونی است؟
در بسیاری از کشورها، ساخت و استفاده از اسناد جعلی جرم محسوب می‌شود و ممکن است کاربران متخلف با پیگرد قانونی مواجه شوند.
۷. آیا OpenAI این قابلیت را غیرفعال خواهد کرد؟
فعلاً OpenAI بر روی بهبود امنیت و جلوگیری از سوءاستفاده‌های احتمالی تمرکز دارد. هنوز مشخص نیست که این قابلیت به‌طور کامل غیرفعال خواهد شد یا خیر.
