دانشگاه استنفورد با DetectGPT، به جنگ مقالات تولیدشده با ChatGPT می‌رود

استفاده از مدل‌های زبانی بزرگ (LLM) روبه‌افزایش است. افراد از ابزارهایی مثل ChatGPT برای انجام کارهای مختلف خود، ازجمله نوشتن مقالات دانشگاهی استفاده می‌کنند. حالا گروهی از محققان دانشگاه استنفورد سیستمی به نام DetectGPT را طراحی کرده‌اند که هدفش مقابله با سرقت ادبی و استفاده غیرمجاز از ابزارهای هوش مصنوعی در تحصیلات عالی است.

یکی از اولین ابزارهایی که برای مقابله با سیستم‌های هوش مصنوعی نظیر ChatGPT ساخته شده است، DetectGPT نام دارد. این ابزار مبتنی بر این ایده کار می‌کند که متن‌های تولیدشده با مدل‌های زبانی بزرگ بر نواحی خاصی از منحنی تابع احتمال لگاریتمی تمرکز دارند. بنابراین محققان سنجه جدیدی را خلق کرده‌اند که می‌تواند تشخیص دهد یک متن با هوش مصنوعی تولید شده است یا خیر. ظاهراً متون ساخته‌شده با هوش مصنوعی در نقاط منفی منحنی گاوسی و متون انسانی در نقاط مثبت این منحنی قرار می‌گیرند. البته این مسئله دقیقاً توسط محققان تأیید نشده است.

موفقیت DetectGPT در شناسایی متون نوشته‌شده با هوش مصنوعی

پژوهشگران دانشگاه استنفورد از متدی موسوم به Zero-Shot استفاده کرده‌اند که به نرم‌افزار آن‌ها اجازه می‌دهد تا بدون در اختیارداشتن هیچ اطلاعاتی از هوش مصنوعی سوژه، متون ماشینی را تشخیص دهد. این گروه DetectGPT را روی مجموعه‌ای از اخبار تولیدشده با هوش مصنوعی آزمایش کردند و از نتایج آن شگفت‌زده شدند؛ چرا که ابزار آن‌ها بهتر از تمام ابزارهای قبلی مبتنی‌بر Zero-Shot عمل کرد.

بنابراین DetectGPT حالا می‌تواند با کمترین اطلاعات به وسیله‌ای برای تشخیص متون ماشینی تبدیل شود. این مسئله از آن جهت اهمیت پیدا می‌کند که با افزایش استفاده از مدل‌های زبانی بزرگ، نیاز است تا روشی برای تشخیص این متون وجود داشته باشد. نرم‌افزار محققان استنفورد نویدبخش سازوکاری برای حل این مشکل است و حداقل می‌تواند به کمک دانشگاه‌ها بیاید تا راحت‌تر بتوانند با سرقت ادبی از طریق این ابزارهای هوش مصنوعی مقابله کنند. بااین‌حال، DetectGPT می‌تواند کاربردهای دیگری هم داشته باشد.