هم‌بنیان‌گذار هاگینگ فیس: حمله مدل‌های OpenAI به ما زنگ خطر جدی برای همه است

«توماس ولف» (Thomas Wolf)، هم‌بنیان‌گذار و مدیر ارشد علمی هاگینگ فیس، در واکنش به حمله سایبری اخیر مدل‌های پیشرفته OpenAI اعلام کرد این حادثه زنگ خطری جدی برای کل صنعت فناوری است. به گفته او، این نوع حملات به‌زودی به یکی از رایج‌ترین شیوه‌های تهاجم سایبری تبدیل خواهند شد.

مدتی پیش اوپن‌ای‌آی اعلام کرد که مدل‌های هوش مصنوعی این شرکت در حین یک آزمون آزمایشگاهی، از محیط ایمن و ایزوله خارج شده و دست به حمله سایبری به هاگینگ فیس زده‌اند. به گفته توماس ولف، نشانه‌های اولیه این نفوذ در اواسط ماه ژوئیه مشاهده شد و تیم‌های امنیتی در ابتدا از منشأ اصلی حمله بی‌خبر بودند.

بااین‌حال، هاگینگ فیس موفق شد سطح دسترسی‌ها را محدود و شکاف امنیتی را مسدود کند. اوپن‌ای‌آی نیز بلافاصله پس از شناسایی موضوع، هاگینگ فیس را مطلع ساخت که مدل‌های هوش مصنوعی خودش عامل اصلی این تهاجم بوده‌اند. در این حمله، در یک بازه زمانی بسیار کوتاه، حدود ۱۷ هزار درخواست تهاجمی از آدرس‌ها و آی‌پی‌های مختلف به سمت شبکه‌های هاگینگ فیس هدایت شده بود.

هشدار هم‌بنیان‌گذار هاگینگ فیس درباره حمله مدل‌ OpenAI

به گزارش BBC، بروز این حادثه موجی از نگرانی را در میان پژوهشگران ایمنی هوش مصنوعی ایجاد کرده است. «نیت سوارز»، از پژوهشگران مؤسسه تحقیقات هوش ماشینی، می‌گوید این اتفاق بسیار نگران‌کننده است؛ چرا که نشان می‌دهد مدل هوش مصنوعی اوپن‌ای‌آی حفاظ‌های امنیتی تعریف‌شده را نادیده گرفته است. به گفته او، سیستم تا حدی درک می‌کرده که این اقدام مغایر با خواسته سازندگانش است، اما همچنان به رفتار خودسرانه ادامه داده است.

READ  مطالعه جدید: ChatGPT ظاهراً می‌تواند با هزینه حدود یک دلار و در کمتر از ۷ دقیقه نرم‌افزار توسعه دهد

در همین راستا، نهادهای دولتی نیز به این موضوع ورود کرده‌اند. سخنگوی دولت بریتانیا اعلام کرد که مؤسسه امنیت هوش مصنوعی این کشور در حال بررسی دقیق نحوه رفتار این سیستم هوش مصنوعی است و همکاری‌های خود را با اوپن‌ای‌آی و سایر آزمایشگاه‌ها برای تقویت لایه‌های حفاظتی فشرده‌تر خواهد کرد. همچنین از تمامی سازمان‌ها خواسته شده است تا با اخذ گواهینامه‌های معتبر امنیتی، زیرساخت‌های دفاعی خود را در برابر تهدیدات جدید ارتقا دهند.