به گزارش رسانه تحلیلی خبری آناژورنال یک جنجال جدید در دنیای آکادمیک بر سر مقالات “تولید شده با هوش مصنوعی” در کنفرانس ICLR (International Conference on Learning Representations) در حال شکل‌گیری است.
این کنفرانس یکی از مهم‌ترین رویدادهای علمی در زمینه هوش مصنوعی است و موضوعاتی مانند یادگیری ماشین و یادگیری عمیق در آن بررسی می‌شود.
حداقل سه آزمایشگاه هوش مصنوعی – Sakana، Intology، و Autoscience – اعلام کرده‌اند که از هوش مصنوعی برای تولید مقالاتی استفاده کرده‌اند که در کارگاه‌های ICLR پذیرش شده است.
در این نوع کنفرانس‌ها، معمولاً مقالات توسط داوران برای انتشار در بخش کارگاه کنفرانس بررسی می‌شوند.
آزمایشگاه Sakana قبل از ارسال مقالات خود به رهبران ICLR اطلاع داده و موافقت داوران را برای استفاده از هوش مصنوعی دریافت کرده بود.
اما دو آزمایشگاه دیگر، Intology و Autoscience، بدون اطلاع قبلی مقالات خود را ارسال کرده‌اند، که باعث انتقادات زیادی از سوی جامعه علمی شده است.
چندین دانشگاهی مطرح در شبکه‌های اجتماعی به انتقاد از این اقدام پرداختند.
پرتیاراج آمانابرو، استاد علوم کامپیوتر در دانشگاه کالیفرنیای سن دیگو، در پستی در توییتر نوشت: “تمام این مقالات هوش مصنوعی از مکان‌های داوری علمی به عنوان ارزیابی‌های انسانی استفاده می‌کنند، اما هیچ‌کس برای این کار زمان خود را نپرداخته است.”
این مشکلات در حالی ایجاد شده که داوری علمی یک فرآیند زمان‌بر و طاقت‌فرسا است.
بر اساس نظرسنجی اخیر از مجله نیچر، ۴۰ درصد از دانشگاهیان بین دو تا چهار ساعت برای ارزیابی یک مقاله صرف می‌کنند.
این کار به طور عمده داوطلبانه انجام می‌شود و هیچ‌گونه پاداش مالی برای داوران ندارد.
تعداد مقالات ارسالی به بزرگ‌ترین کنفرانس هوش مصنوعی، NeurIPS، در سال گذشته به ۱۷,۴۹۱ مقاله رسید که نسبت به سال ۲۰۲۳، ۴۱ درصد افزایش داشته است.
آزمایشگاه Intology پس از پذیرش مقالات خود در ICLR، در پستی در شبکه اجتماعی X نوشت که مقالات آنها نقدهای مثبتی از داوران دریافت کرده‌اند و یکی از مقالات آنها به‌ویژه با “ایده‌های هوشمندانه” مورد تمجید قرار گرفته است.
این موضوع باعث اعتراض شدید جامعه علمی شد، زیرا بسیاری از پژوهشگران معتقدند که ارسال مقالات تولید شده توسط هوش مصنوعی بدون اطلاع قبلی از داوران نشان‌دهنده عدم احترام به وقت و تلاش آن‌هاست.
آزمایشگاه Sakana خود نیز به مشکلات موجود در مقالات تولیدی خود اذعان کرد و اعلام کرد که تنها یکی از سه مقاله‌ای که ارسال کرده بودند، شرایط پذیرش برای کنفرانس را برآورده می‌کرد.
این آزمایشگاه به‌طور داوطلبانه مقاله خود را قبل از انتشار در ICLR پس گرفت تا احترام به روند کنفرانس و شفافیت بیشتری ایجاد کند.
آلکساندر دوریا، یکی از بنیان‌گذاران استارتاپ AI، با اشاره به این که ارزیابی‌های بی‌پاسخ به این شکل ممکن است از اعتبار فرآیند داوری علمی بکاهد، پیشنهاد کرد که یک نهاد دولتی یا شرکت معتبر باید به‌طور رسمی مقالات تولید شده توسط هوش مصنوعی را ارزیابی کند و داوران باید برای این ارزیابی‌ها پاداش دریافت کنند.
این اتفاقات نشان می‌دهد که استفاده از هوش مصنوعی در مقالات علمی، حتی اگر در زمینه هوش مصنوعی باشد، ممکن است باعث مسائل اخلاقی و عملی در جامعه آکادمیک شود و نیاز به تنظیم مقررات و قوانین جدید در این زمینه احساس می‌شود.
سوالات متداول:
استارتاپ‌های هوش مصنوعی چرا از داوری علمی سوءاستفاده می‌کنند؟
برخی استارتاپ‌ها از داوری علمی به عنوان ابزاری برای تبلیغات استفاده کرده و بدون اطلاع داوران، مقالات AI خود را ارسال می‌کنند، که این کار باعث انتقادهای زیادی در جامعه علمی شده است.
چرا داوری علمی در ارسال مقالات AI مهم است؟
داوری علمی فرآیندی زمان‌بر و طاقت‌فرسا است که داوران به صورت داوطلبانه و بدون هیچ‌گونه پاداش مالی آن را انجام می‌دهند، و استفاده نادرست از آن می‌تواند باعث تضییع وقت و منابع علمی شود.
آیا این مشکل در کنفرانس‌های بزرگ دیگر مانند NeurIPS نیز وجود دارد؟
بله، بررسی‌ها نشان داده که درصد زیادی از مقالات ارسال‌شده به کنفرانس‌های AI شامل محتوای تولیدشده توسط هوش مصنوعی هستند، و این موضوع به یکی از چالش‌های بزرگ در علم داده تبدیل شده است.
چه تبعاتی برای استفاده نادرست از داوری علمی وجود دارد؟
این کار نه تنها موجب نارضایتی داوران و اعضای جامعه علمی می‌شود، بلکه می‌تواند اعتبار روند داوری علمی را کاهش داده و منابع ارزشمند را هدر دهد.
آیا راه‌حل‌هایی برای این مشکل وجود دارد؟
برخی پیشنهاد می‌کنند که باید یک نهاد نظارتی برای ارزیابی مقالات AI ایجاد شود که داوران آن به صورت حرفه‌ای و با دریافت پاداش مناسب، این مقالات را ارزیابی کنند.
