هشدار محققان OpenAI، آنتروپیک و گوگل: ابرهوش مصنوعی دقیقاً همان‌قدر که به‌نظر می‌رسد خطرناک است

پژوهشگران شرکت‌های بزرگ حوزه هوش مصنوعی در ویدیوهایی تازه هشدار داده‌اند که ابرهوش مصنوعی (Superintelligence) دقیقاً به همان اندازه که می‌شنویم خطرناک است.

در یکی از این ویدیوها، «جفری اروینگ»، کارمند سابق شرکت‌های OpenAI و گوگل دیپ‌مایند، اعلام کرده است:

«از دیدگاه من، احتمال انقراض بشریت تقریباً مانند شیر یا خط انداختن یک سکه است.»

این مصاحبه بخشی از مجموعه‌ای شامل ۱۲ گفت‌وگو با پژوهشگران حوزه هوش مصنوعی است که کارکنان فعلی و سابق مجموعه‌های بزرگی نظیر OpenAI، گوگل و آنتروپیک را شامل می‌شود. مؤسسه Palisade Research، که سازمانی غیرانتفاعی فعال در زمینه ارزیابی توانمندی‌ها و انگیزه‌های هوش مصنوعی است، این مصاحبه‌ها را جمع‌آوری کرده و در سایتی به نام frominside.ai در دسترس عموم قرار داده است.

چندین پژوهشگر دیگر نیز در کنار اروینگ نسبت به پیامدهای فاجعه‌بار این فناوری هشدار داده و احتمال به نابودی انسان‌ها را مطرح کرده‌اند. «نیل ناندا»، دانشمند پژوهشگر در گوگل دیپ‌مایند، در این رابطه توضیح داده که «دست‌کم ۱۰ درصد احتمال دارد این فناوری موجب انقراض انسان شود و این رقم به‌‌طور مسخره‌ای بالا است.» پیش از این نیز دیدگاه‌های ناندا و اروینگ در گزارش‌های مربوط به جامعه ایمنی هوش مصنوعی و دشواری‌های تعریف دقیق این حوزه یا تعیین وظایف مشخص افراد منعکس شده بود. جالب اینکه حتی مجموعه ویدیوهای اخیر نیز راه‌حل یکپارچه و مشخصی برای حل این چالش ارائه نمی‌دهند.

نگرانی پژوهشگران از قدرت مهارناپذیر ابرهوش مصنوعی

«دانیل کوکوتایلو»، پژوهشگر سابق OpenAI، با لحنی هشدارآمیزتر گفته است که ابرهوش مصنوعی «در عمل قدرتی شبیه به خدایان خواهد داشت». او همچنین اضافه کرد:

«متأسفانه ما اصلاً نمی‌دانیم چگونه باید آنها را مهار کنیم؛ بنابراین احتمالاً هیچ‌کس قادر به کنترل‌شان نخواهد بود. این موضوع دقیقاً به همان اندازه که به نظر می‌رسد خطرناک است و به هیچ عنوان نباید اجازه داد چنین وضعیتی رخ دهد.»

این موضوع در زمانی مطرح شده که «دونالد ترامپ» به‌تازگی دستور داده بود عنوان رسمی «هوش مصنوعی» در اسناد دولتی به «ابر هوش» یا به اختصار «SI» تغییر پیدا کند.

با وجود اینکه ویدیوهای کامل هر فرد در سایت موجود است، این پایگاه اینترنتی بخش‌هایی از صحبت‌های افراد مختلف پیرامون مباحث مشابه را نیز جمع‌آوری کرده است. از جمله این مباحث، می‌توان به بررسی این موضوع اشاره کرد که آیا تمام این هشدارها صرفاً نوعی تبلیغات و هیاهو است یا خیر، و اینکه چرا این دانشمندان همچنان روی چیزی کار می‌کنند که از نظر خودشان تا این حد مرگبار است. «مری فونگ» از شرکت گوگل در پاسخ می‌گوید:

«فکر می‌کنم شما کاملاً حق دارید به حرف‌های من شک کنید، چراکه من از این آزمایشگاه حقوق می‌گیرم.»

از سوی دیگر، ناندا دلیل ادامه فعالیت خود را این‌گونه تشریح می‌کند:

«اگر باور نداشتم که پژوهش‌هایم مستقیماً باعث کاهش این خطرات موجودیتی می‌شود، استعفا می‌دادم؛ این شرکت‌ها صرفاً به خاطر اینکه من کارم را ترک کنم، توسعه این سیستم‌ها را متوقف نخواهند کرد.»