آیا پاپ برای نوشتن درباره «خطرات هوش مصنوعی» از هوش مصنوعی کمک گرفت؟

به نظر می‌رسد در نگارش بخش‌هایی از جدیدترین رساله «پاپ لئون چهاردهم» که درباره تأثیرات و خطرات هوش مصنوعی بر بشریت است، از خود هوش مصنوعی استفاده شده باشد.

بر اساس تحلیل کارشناسی به نام «لینچ ژانگ» (Linch Zhang) در انجمن LessWrong، یک ابزار محبوب تشخیص محتواهای هوش مصنوعی به نام Pangram، نشان می‌دهد که بین ۴۰ تا ۱۰۰ درصد از برخی پاراگراف‌های رساله جدید پاپ با نام «شکوه انسان» (Magnifica Humanitas) توسط هوش مصنوعی نوشته شده است.

به گفته ژانگ، در این رساله ویژگی‌ها و الگوهای شناخته‌شده‌ای وجود دارد که معمولاً در متون تولیدشده توسط هوش مصنوعی دیده می‌شوند. به عنوان مثال، استفاده از کلمه «genuinely» به معنای واقعاً یا اصالتاً در این رساله بسیار بیشتر از رساله‌های قبلی پاپ است؛ این کلمه به عنوان یکی از کلمات پرتکرار و امضاهای متنی چت‌بات Claude متعلق به شرکت آنتروپیک شناخته می‌شود.

بررسی‌های دیگر نیز این ادعا را تقویت می‌کنند؛ شخص دیگری متن این سند را بخش به بخش در ابزار Pangram بررسی کرد و دریافت که ۶۲ درصد از فصل اول آن به عنوان متن «تولیدشده توسط هوش مصنوعی» علامت‌گذاری شده است. زمانی که وب‌سایت ورج نیز حدود ۲۰۰۰ کلمه از این سند را در Pangram آزمایش کرد، این ابزار تخمین زد که ۴۶ درصد از آن توسط هوش مصنوعی نوشته شده است.

استفاده از هوش مصنوعی در رساله پاپ لئون چهاردهم

با وجود این آمارها، بخش‌های دیگری از این رساله کاملاً توسط انسان نوشته شده‌اند. ژانگ خاطرنشان می‌کند که Pangram برخی از بخش‌ها را به عنوان «صفر درصد هوش مصنوعی» دسته‌بندی کرده است.

برای مقایسه و اثبات دقت این ابزار، ۲۰ پاراگراف اول از چهار رساله قبلی پاپ در Pangram بررسی شدند که نتیجه آن نشان می‌داد توسط انسان نوشته شده‌اند. همچنین، متن پیاده‌سازی‌شده از سخنرانی پاپ لئون نیز پس از بررسی در این ابزار، نتیجه ۱۰۰ درصد انسانی دریافت کرد.

اگرچه ابزارهای تشخیص هوش مصنوعی بی‌نقص و عاری از خطا نیستند و ممکن است نتایج متفاوتی نشان دهند، اما Pangram در میان محققان هوش مصنوعی از اعتبار بالایی برخوردار است. در مارس ۲۰۲۵، Pangram اعلام کرد که «نرخ مثبت کاذب» این ابزار (یعنی احتمال اینکه متن نوشته‌شده توسط انسان را به اشتباه به هوش مصنوعی نسبت دهد) تنها حدود ۱ در ۱۰ هزار است.

درکل هدف انتشار رساله‌های پاپ انتقال آموزش‌هایی برای مقابله با چالش‌های مهم اخلاقی و اجتماعیِ زمانه است. رساله اخیر، اولین رساله پاپ لئون چهاردهم محسوب می‌شود . همچنین این اولین‌باری است که رساله پاپ مستقیماً بر هوش مصنوعی و تاثیرات گسترده آن تمرکز می‌کند. نکته بسیار جالب و شاید کنایه‌آمیز ماجرا اینجاست که پاپ لئون این رساله را در کنار «کریستوفر اولا»، یکی از بنیان‌گذاران شرکت آنتروپیک، ارائه کرده است.