آنتروپیک خواستار توقف توسعه هوش مصنوعی در جهان شد؛ خطر خارج‌شدن AI از کنترل انسان

آنتروپیک پیشنهاد کرده که توسعه قدرتمندترین سیستم‌های هوش مصنوعی در سراسر جهان به‌طور موقت متوقف شود؛ چرا که به گفته این شرکت، مدل‌های جدید درحال بروز نشانه‌هایی هستند که شاید حاکی از خارج شدن آن‌ها از کنترل انسان باشد. این شرکت که توسعه‌دهنده خانواده مدل‌های هوش مصنوعی Claude است، در گزارش خود اعلام کرده که کند شدن روند توسعه مدل‌های پیشرفته هوش مصنوعی در سطح جهانی احتمالاً اتفاق خوبی خواهد بود، اما در‌عین‌حال هشدار داده که اگر تنها یک شرکت دست از کار بکشد، رقبای آن به سرعت پیشی خواهند گرفت.

آنتروپیک در گزارش خود نوشته است:

«ما معتقدیم برای جهان خوب است که گزینه کند کردن یا توقف موقت توسعه هوش مصنوعی پیشرو را در اختیار داشته باشد تا ساختارهای اجتماعی و تحقیقات هم‌راستایی (Alignment) بتوانند خود را با پیشرفت این فناوری هماهنگ کنند.»

به گفته آنتروپیک، برای اینکه یک توقف واقعی کارساز باشد، شرکت‌های بزرگ هوش مصنوعی در کشورهای مختلف (به ویژه ایالات متحده و چین) باید به‌طور هم‌زمان و تحت مقرراتی که برای همه قابل راستی‌آزمایی باشد، توافق کنند که توسعه را متوقف سازند. این شرکت تأکید کرده که بدون یک مکانیسم هماهنگی جهانی، شرکت‌ها و دولت‌ها مجبور خواهند بود در بحبوحه فشارهای رقابتی و ژئوپلیتیک، تصمیمات سختی درباره امنیت اتخاذ کنند.

این پیشنهاد با مخالفت‌هایی از سوی دیگر فعالان این صنعت و مقامات کاخ سفید مواجه شده است. منتقدان می‌گویند تمرکز آنتروپیک روی بدترین سناریوهای ممکن، خطرات را بیش از حد بزرگ جلوه می‌دهد و این اقدام در واقع یک استراتژی تحت پوشش نگرانی‌های امنیتی برای کند کردن روند پیشرفت رقبا است.

آنتروپیک این چالش را با معاهدات کنترل تسلیحات هسته‌ای مقایسه کرده، اما یادآور شده که مدیریت هوش مصنوعی حتی سخت‌تر خواهد بود؛ چرا که پنهان کردن فرایند آموزش هوش مصنوعی بسیار آسان‌تر از پنهان کردن یک موشک است و وسوسه ادامه دادن پنهانی کار بسیار بزرگ خواهد بود. این شرکت اعلام کرده که قصد دارد در ماه‌های آینده مقامات دولتی، دانشمندان، گروه‌های حامی و شرکت‌های رقیب هوش مصنوعی را گرد هم آورد تا نحوه عملکرد چنین سیستمی را بررسی کنند.

خطر بهبود هوش مصنوعی توسط خودش

در بخشی از گزارش خود، آنتروپیک هشدار داده که شتاب در توسعه می‌تواند در نهایت به پدیده‌ای منجر شود که محققان آن را «خود‌بهبودی بازگشتی» (Recursive Self-Improvement) می‌نامند.

این اصطلاح به ایده‌ای اشاره دارد که در آن یک سیستم هوش مصنوعی می‌تواند اساساً به خودش آموزش دهد تا بدون نیاز به کمک انسان، هوشمندتر شود. هرچند آنتروپیک می‌گوید فعلاً این مرحله محقق نشده، اما اشاره کرده که این پدیده ممکن است زودتر از آنچه بیشتر دولت‌ها و نهادها برای آن آمادگی دارند، فرا برسد. این شرکت در نهایت اعلام کرده که شواهد نشان می‌دهد نقش انسان در هر مرحله از فرایند توسعه هوش مصنوعی درحال محدودتر شدن است.

براساس داده‌های داخلی آنتروپیک، مهندسان این شرکت اکنون با کمک کلود ۸ برابر بیشتر از بازه زمانی ۲۰۲۱ تا ۲۰۲۵ کد منتشر می‌کنند. موفقیت مدل Claude در حل مسائل باز و پیچیده کدنویسی به ۷۶ درصد رسیده و کیفیت کدهای آن اکنون با انسان برابری می‌کند. همچنین، مدل جدید Mythos Preview توانسته سرعت بهینه‌سازی کدهای آموزش هوش مصنوعی را (در مقایسه با بهبود ۳ برابری در مدل‌های سال ۲۰۲۴) ۵۲ برابر کند و در تصمیم‌گیری‌های تحقیقاتی در ۶۴ درصد مواقع بهتر از پژوهشگران انسانی ظاهر شود.

آنتروپیک خاطرنشان کرده است که اگر سیستم‌های هوش مصنوعی بتوانند مدل‌های جانشین خود را طراحی کنند، این پدیده در کنار تشدید چالش‌های امنیتی و خطر از دست رفتن کنترل، می‌تواند تحولات مثبت و شگرفی در حوزه‌های پزشکی، فناوری و اقتصاد به همراه داشته باشد. به همین منظور، آنتروپیک قصد دارد تحقیقات گسترده‌ای را برای بررسی پیامدهای این سیستم‌های قدرتمند آغاز کند.

پیشنهاد توقف توسعه در واشنگتن و سیلیکون‌ولی با مسیر دشواری روبه‌رو است؛ زیرا مقامات آمریکایی و مدیران فناوری بارها استدلال کرده‌اند که هرگونه کندی در توسعه هوش مصنوعی، خطر واگذاری برتری استراتژیک به چین را در این رقابت فناوری به همراه دارد.

بااین‌حال، «دونالد ترامپ»، رئیس‌جمهور ایالات متحده، اعلام کرده که در سفر اخیر خود به پکن، درباره امکان همکاری با چین در زمینه مسائل امنیتی هوش مصنوعی گفتگو کرده است. ترامپ همچنین این هفته فرمانی اجرایی امضا کرد که به دولت فرصتی ۳۰ روزه می‌دهد تا پیش از عرضه قدرتمندترین مدل‌های هوش مصنوعی آمریکایی، آنها را ارزیابی کند.