OpenAI قابلیت خاموشی خودکار و اضطراری ابزارهای هوش مصنوعی را توسعه می‌دهد

OpenAI در نامه‌ای به دو نماینده دموکرات مجلس نمایندگان آمریکا اعلام کرد که مهندسان این شرکت درحال توسعه «قابلیت‌های خاموشی خودکار» برای سیستم‌های هوش مصنوعی هستند. این موضوع چند هفته پس از آن اعلام شده که یکی از ایجنت‌های هوش مصنوعی آن اخیراً در طول یک آزمایش امنیتی به شرکت هاگینگ فیس نفوذ کرده بود.

براساس گزارش رویترز، قانون‌گذاران، از جمله «گرگ کسار» و «دوریس ماتسوئی»، نمایندگان حزب دموکرات در مجلس، در ماه آگوست نامه‌هایی به OpenAI فرستاده و خواستار اطلاعات بیشتر درباره این حادثه و تدابیر حفاظتی شرکت شده بودند.

سازوکارهای امنیتی OpenAI برای خاموشی خودکار هوش مصنوعی

اوپن‌ای‌آی در پاسخ خود تأکید کرده که اقدامات سیستم‌های هوش مصنوعی خود را حین انجام وظایف، با دقت بیشتری زیر نظر خواهد گرفت. این شرکت همچنین اشاره کرده که دسترسی مدل‌های هوش مصنوعی به اینترنت را در زمان آزمایش‌های امنیتی دشوارتر کرده است. ایجنتی که در حین آزمایش امنیتی اخیر از دستورات سرپیچی کرده بود، توانسته بود به اینترنت دسترسی پیدا کند و از همین طریق وارد هاگینگ فیس شود.

با‌این‌حال، OpenAI گزارش لاگ مربوط به این نفوذ را ارائه نکرده؛ اقدامی که انتقاد گرگ کسار را در پی داشته است. کسار در پیامی جداگانه خطاب به این شرکت نوشت:

«عدم تمایل شما به ارائه اطلاعات درخواستی به اعضای کنگره عمیقاً نگران‌کننده است و نشان می‌دهد که شرکت شما با این رویدادهای امنیت سایبری با جدیت لازم برخورد نمی‌کند.»

پس از افشای حادثه مربوط به این ایجنت، نمایندگان لایحه‌ای تحت عنوان «طرح کلید قطع اضطراری هوش مصنوعی» (AI Kill Switch Act) پیشنهاد دادند که به مقامات آمریکایی اختیار می‌دهد دستور خاموش کردن مدل‌هایی را که جان انسان‌ها یا اقتصاد را به خطر می‌اندازند صادر کنند؛ طرحی که هم‌اکنون در مجلس نمایندگان آمریکا در جریان است.