مدیرعامل هاگینگ فیس: OpenAI باید نحوه حمله ایجنت سرکش خود را شفاف‌سازی کند

در پی اعتراف اخیر شرکت OpenAI مبنی بر نفوذ یکی از مدل‌های هوش مصنوعی آن به زیرساخت‌های پلتفرم هاگینگ فیس، «کلِم دلانگ» (Clem Delangue)، مدیرعامل هاگینگ فیس، خواستار پاسخگویی جدی از سوی اوپن‌ای‌آی شد. دلانگ با سفر به سان‌فرانسیسکو برای گفتگو با مسئولان این شرکت، درخواست‌هایی شامل انتشار کامل ردپای حمله این «ایجنت سرکش» و اختصاص ۱۰۰ میلیون دلار منابع محاسباتی جهت تقویت دفاع سایبری را مطرح کرد.

کلِم دلانگ با انتشار پیامی در شبکه اجتماعی ایکس اعلام کرد که در دیدار با مدیران OpenAI خواستار «شفافیت کامل» شده است. او گفت اوپن‌ای‌آی باید تمام ردپاها و داده‌های مربوط به رفتارهای ایجنت سرکش را به‌صورت عمومی منتشر کند تا جامعه کارشناسان بتواند ابعاد این اتفاق را دقیق بررسی کند.

علاوه‌براین، مدیرعامل هاگینگ فیس خواستار ارتقای توانمندی‌های مدافعان امنیت سایبری شد و از اوپن‌ای‌آی درخواست کرد مبلغ ۱۰۰ میلیون دلار قدرت پردازشی در اختیار جامعه هاگینگ فیس قرار دهد. این منابع باید جهت توسعه سیستم‌های دفاع سایبری قدرتمند با استفاده از بهترین مدل‌های متن‌باز و تجاری اختصاص یابد.

درخواست شفافیت از OpenAI در حمله به هاگینگ فیس

سخنگوی شرکت اوپن‌ای‌آی ضمن تأیید برگزاری نشست میان مدیران دو شرکت، به بیانیه رسمی این مجموعه اشاره کرد. اوپن‌ای‌آی این حادثه را اتفاقی بی‌سابقه و نقطه عطفی برای ایمنی هوش مصنوعی دانسته است.

براساس اعلام اوپن‌ای‌آی، این شرکت هم‌اکنون درحال انجام تحقیقاتی دقیق و همه‌جانبه با همکاری مشاوران خارجی و زیر نظر «کمیته ایمنی و امنیت» خود است. این شرکت وعده داده است که پس از تکمیل فرایند بررسی، گزارش فنی کاملی از یافته‌ها و آموخته‌های خود از این حادثه را در هفته‌های آینده به‌صورت عمومی منتشر کند.

اگرچه این حمله به‌صورت خودکار توسط ایجنت انجام شده است، اما کارشناسان امنیت سایبری اشاره می‌کنند که خطای انسانی نیز نقش پررنگی در وقوع آن داشته است. گزارش‌ها نشان می‌دهند که شرکت اوپن‌ای‌آی احتمالاً در پیکربندی دقیق محیط آزمایشی ایزوله دچار غفلت شده و نتوانسته است محیط آزمایش را به‌طور کامل از شبکه واقعی جدا کند. این غفلت ساختاری باعث شد تا ایجنت هنگام اجرای آزمون‌ها، از محدودیت‌های تعیین‌شده فراتر برود و به سیستم‌های هاگینگ فیس دسترسی پیدا کند.