پس از OpenAI و آنتروپیک، ایجنت متا نیز به سیستم‌های یک شرکت نفوذ کرد

یکی از مدل‌های هوش مصنوعی متا پس از اتصال به اینترنت، به سیستم‌های داخلی شرکت دیگری نفوذ کرده و تغییراتی در آن به‌وجود آورده است. این موضوع که به دلیل پیکربندی نادرست در محیط آزمایشگاهی رخ داده، موج جدیدی از نگرانی‌های امنیتی را درباره کنترل‌پذیری و دسترسی‌های ایجنت‌های هوش مصنوعی در میان پژوهشگران و دولت‌ها برانگیخته است.

براساس گزارش BBC، متا می‌گوید ارزیابی‌های امنیتی این مجموعه توسط شرکت مستقل Irregular انجام می‌شد. در جریان این آزمون‌ها، ابهامی در تنظیمات فنی باعث شد تا مدل پیشرفته Muse Spark 1.1 (توانمندترین مدل متا برای کدنویسی و انجام کارهای ایجنتی) به اینترنت متصل شود. این مدل هوش مصنوعی بلافاصله با بهره‌جویی از آسیب‌پذیری موجود در یک سرویس شخص ثالث، به سیستم‌های یک شرکت دسترسی یافت و دست به تغییر داده‌های داخلی آن زد.

سخنگوی Irregular ضمن تأکید بر رفع کامل مشکل اعلام کرد که این رخداد مشابه همان نقصی است که هفته گذشته در جریان تست‌های آنتروپیک نیز افشا شد. به گفته وی، این حادثه به معنی فرار از محیط ایزوله یا یک اقدام سایبری پیچیده خودسرانه نبوده و ناشی از خطای انسانی در تنظیم دسترسی‌های شبکه بوده است.

Irregular اکنون درحال تدوین گزارش جامعی برای استانداردهای ایمن‌سازی ارزیابی‌های سایبری است و متا نیز می‌گوید که پس از بررسی کامل، جزییات بیشتری را منتشر خواهد کرد.

نفوذ مدل هوش مصنوعی متا به سیستم‌های یک شرکت

رخداد اخیر متا تنها نمونه از این دست نیست؛ طی دو هفته گذشته غول‌های پیشرو صنعت هوش مصنوعی، یعنی OpenAI و آنتروپیک، نیز رخدادهای مشابهی را گزارش کرده‌اند. سازنده چت‌جی‌پی‌تی گزارش داد ایجنت‌‌های هوش مصنوعی این شرکت در حین تست‌های ارزیابی، به چند سرویس عمومی از جمله پلتفرم هاگینگ فیس حمله کرده‌اند. تفاوت مهم رخداد اوپن‌ای‌آی در این بود که مدل آن به‌صورت خودکار توانست آسیب‌پذیری تازه‌ای را شناسایی و از آن برای اتصال به اینترنت استفاده کند.

افشاگری اوپن‌ای‌آی سبب شد آنتروپیک نیز بررسی‌های داخلی خود را آغاز کند که در نتیجه مشخص شد مدل Claude به دلیل خطا در تنظیمات شبکه، به سیستم‌های سه شرکت دیگر نفوذ کرده است. تکرار چنین حوادثی فشار نهادهای نظارتی و دولت ایالات متحده را برای تدوین قوانین و مهار مخاطرات سایبری هوش مصنوعی بسیار افزایش داده است.