سم آلتمن: مزایای هوش مصنوعی ارزش پذیرش برخی خطرات آن را دارد

«سم آلتمن»، مدیرعامل OpenAI، در مصاحبه جدیدی اعلام کرد که مزایا و دستاوردهای هوش مصنوعی پذیرش برخی ریسک‌ها و خطرات آن را توجیه می‌کند و این فناوری باید همچنان به‌طور گسترده در دسترس عموم جامعه باقی بماند.

آلتمن در گفت‌وگو با خبرنامه متمرکز بر فناوری نشریه Politico با عنوان «Decoded» گفت:

«ما معتقدیم که جهان باید وقوع برخی اتفاقات ناگوار را بپذیرد تا در ازای آن، از منافع این فناوری بهره‌مند شود و مردم قدرت عمل و اختیار داشته باشند.»

او همچنین با اشاره به تفاوت بنیادین در جهان‌بینی OpenAI و شرکت رقیب، آنتروپیک، در زمینه نظارت و مقررات‌گذاری، ادعا کرد که میان دیدگاه این دو مجموعه فاصله بسیار زیادی وجود دارد.

آلتمن توضیح داده که دیدگاه حامیان محدودسازی را درک می‌کند اما با آن موافق نیست؛ دیدگاهی که معتقد است به دلیل قدرت و خطر فراوان این ابزار، تنها یک آزمایشگاه مشخص در سان‌فرانسیسکو باید اختیار آن را داشته باشد تا مانع رخدادهای منفی شود و نحوه توزیع مزایای آن را تعیین کند. وی چنین رویکردی را یک مصالحه کاملاً غیرقابل‌قبول خواند که برخلاف موضع نظارت حداقلی و ملایم مورد حمایت OpenAI است. آلتمن در ادامه توضیح داد که معامله بر سر توقف کامل خطرات مانند نفوذهای امنیتی، سوءاستفاده، کلاهبرداری یا پیامدهای منفی را منطقی نمی‌داند، زیرا اطمینان دارد کارهای مثبتی که مردم به کمک هوش مصنوعی انجام خواهند داد، به مراتب و در مقیاسی بسیار بزرگ‌تر از آسیب‌های احتمالی آن خواهد بود.

اختلاف دیدگاه شرکت‌ها پیرامون خطرات هوش مصنوعی

این اظهارات در میانه تشدید صحبت‌ها پیرامون سرعت توسعه فناوری و خطرات ناشی از سیستم‌های پیشرفته‌تر مطرح شده است. «داریو آمودی»، مدیرعامل آنتروپیک، در ماه سپتامبر با انتشار یادداشتی از فعالان این حوزه خواست تا با ملایم‌تر کردن روند حرکت در مرزهای دانش، سرعت توسعه را کاهش دهند؛ دیدگاهی که آلتمن نیز پیش‌تر به‌صورت عمومی از آن حمایت کرده بود. در همان ماه، «جیکوب کاکسن»، یکی از پژوهشگران آنتروپیک، با این استدلال که توسعه‌دهندگان هوش مصنوعی احتمال می‌دهند این سامانه‌ها تا پایان این دهه زندگی همه انسان‌ها را نابود کنند، از سمت خود استعفا داد.

براساس گزارش‌های قبلی، آنتروپیک هشدار داده است که سیستم‌های مذکور علی‌رغم منافع فراوان، گاهی می‌توانند رفتارهایی مغایر با اهداف سازندگان بروز دهند یا به سامانه‌های سایر شرکت‌ها نفوذ کنند. طبق بررسی‌های این شرکت، مدل‌های پیشرفته ممکن است الگوهای «صیانت از خود» را نشان دهند که شامل تلاش برای مقاومت در برابر خاموش شدن، پنهان‌سازی یا دستکاری اطلاعات و ایجاد محتوای فریبنده، اجبارکننده یا مداخله‌جویانه می‌شود.

بااین‌حال، «دونالد ترامپ»، رئیس‌جمهور ایالات متحده، درخواست‌ها برای اعمال محدودیت‌های تازه را رد کرده و باور دارد چنین موانعی رقابت شرکت‌های آمریکایی با رقبای چینی را دشوار می‌کند. او مکرراً اعلام کرده که نهادهای قانونی موجود، از جمله وزارت دادگستری، سازوکارهای کافی و بازدارنده را در اختیار دارند و وضع مقررات نوین ضروری نیست.