پیشنهاد ایلان ماسک: مدلهای هوش مصنوعی پیش از عرضه توسط رقبا همتاداوری شود
ایلان ماسک خواستار بررسی امنیتی مدلهای هوش مصنوعی توسط رقبا پیش از عرضه شد و همکاری شرکتها را مؤثرتر از وضع قوانین سختگیرانه دانست.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوویدئوی مرتبط
«ایلان ماسک» بهتازگی در مصاحبهای، ادعا داشته است که شرکتهای بزرگ فناوری و توسعهدهندگان مدلهای هوش مصنوعی باید همکاری بیشتری با هم داشته باشند و مانند مقالههای علمی با روش همتاداوری (Peer-review) در جهت ارتقای کیفیت و امنیت مدلهای جدید پیش از عرضه عمومی قدم بردارند.
منظور ماسک از همتاداوری مدلهای هوش مصنوعی چیست؟
نشریه اکونومیست اخیراً مصاحبهای با ایلان ماسک داشته و مدیرعامل اسپیس ایکس در آن به اهمیت همتاداوری مدلهای هوش مصنوعی توسط رقبا اشاره کرده است. با افزایش سرعت توسعه مدلهای هوش مصنوعی، نگرانیها پیرامون آسیبپذیریهای امنیتی و ریسکهای بالقوه افزایش یافته است؛ اما ماسک اعتقاد دارد که توسعهدهندگان میتوانند با بررسی مدلهای رقیب پیش از عرضه عمومی، از چنین ریسکهایی بکاهند.
مدیرعامل تسلا و اسپیس ایکس میگوید شرکتهای بزرگ فعال در حوزه هوش مصنوعی، باید جلسات دورهای و منظم با یک دیگر برگزار کنند تا درباره مشکلات امنیتی و آسیبپذیریها مباحثه داشته باشند. از نظر او، چنین جلساتی میتواند فرصت مناسبی برای بررسی مدلهای رقبا پیش از انتشار عمومی در جهت ارزیابی آسیبپذیریها باشد.
یکی دیگر از اظهارات جالب ایلان ماسک درباره امنیت مدلهای هوش مصنوعی، پیرامون مداخله دولت در این حوزه است. از دیدگاه او، هنگامی که یک شرکت نتواند ریسکهای امنیتی مدل خود را به درستی تشخیص دهد و تصحیح کند، دولت وظیفه دارد در جهت جلوگیری از بروز مشکلات گستردهتر، مداخله کند.
در همین رابطه، چندی پیش شرکت OpenAI اعلام کرد که دو مدل تحت آزمایش این شرکت موفق شدند از فضای ایزوله فرار کرده و با برقراری اتصال به اینترنت، پلتفرم محبوب Hugging Face را هک کنند. همین رویداد باعث شده تا بسیاری از افراد نسبت به کارایی موانع امنیتی بهکار رفته در سیستمهای مبتنیبر هوش مصنوعی تردید پیدا کنند.
دولتهای غربی به دنبال راهکارهایی هستند تا قوانینی را در جهت ارزیابی و پایش دقیقتر مدلها پیش از انتشار عمومی آنها، تصویب کنند. در سوی دیگر اما شرکتها همچنان روی تستهای داخلی خود پافشاری میکنند. ماسک اعتقاد دارد که رقبا گزینه بهتری در مقایسه با دولتها، در جهت یافتن آسیبپذیریها محسوب میشوند و کارایی مشارکت میان توسعهدهندگان بزرگ، بیشتر از تصویب قوانین دستوپاگیر خواهد بود.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.