ثبت بازخورد

لطفا میزان رضایت خود را از دیجیاتو انتخاب کنید.

واقعا راضی‌ام
اصلا راضی نیستم
چطور میتوانیم تجربه بهتری برای شما بسازیم؟

نظر شما با موفقیت ثبت شد.

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنید
از شما سپاسگزاریم.

هوش مصنوعی

۳ سناریو ترسناک درباره آینده هوش مصنوعی که نمی‌گذارد «سم آلتمن» شب‌ها آسوده بخوابد

آلتمن ۳ سناریو خطرناک را درباره آینده هوش مصنوعی مطرح کرده است.

حمید گنجی
نوشته شده توسط حمید گنجی | ۱ مرداد ۱۴۰۴ | ۱۴:۳۰

«سم آلتمن»، مردی که یکی از برجسته‌ترین و قدرتمندترین شرکت‌های هوش مصنوعی جهان یعنی OpenAI را اداره می‌کند، به‌تازگی فاش کرده است که چه چیزی در مورد هوش مصنوعی باعث می‌شود شب‌ها خواب از چشمان او ربوده شود.

به گزارش دیجیتال ترندز، آلتمن که در رویداد فدرال رزرو در واشنگتن دی‌سی حضور یافته بود، بزرگ‌ترین نگرانی‌های خود درباره هوش مصنوعی را فاش کرد. وقتی یکی از حاضران از او پرسید چه چیزی در مورد هوش مصنوعی باعث می‌شود شب‌ها خوابش نبرد، آلتمن ۳ سناریو را که بیش از همه او را نگران می‌کنند، مطرح کرد.

مدیرعامل OpenAI نگرانی‌هایی درباره آینده هوش مصنوعی دارد

آلتمن ۳ سناریو را مطرح کرده که در آن هوش مصنوعی می‌تواند به تهدیدی برای انسان تبدیل شود. این ۳ سناریو به شرح زیر هستند.

سم آلتمن OpenAI

سناریو اول: آدم‌های بد زودتر به ابرهوش مصنوعی دست پیدا کنند

اولین سناریویی که آلتمن مطرح می‌کند این است که آدم‌های بد و به‌اصطلاح نیروهای شر بتوانند زودتر از سایرین به ابرهوش مصنوعی دست پیدا کنند.

آلتمن گفت: «اینکه یک آدم بد به ابرهوش دست پیدا کند و قبل از اینکه بقیه دنیا نسخه‌ای به‌اندازه کافی قدرتمند برای دفاع از خود داشته باشند، از آن استفاده کند. مثلاً یک دشمن ایالات متحده بگوید: من از این ابرهوش استفاده می‌کنم تا یک سلاح بیولوژیک بسازم، شبکه برق ایالات متحده را از کار بیندازم، وارد سیستم مالی شوم و پول همه را بدزدم.»

سناریو دوم: ازدست‌دادن کنترل

دومین سناریو از دید مدیرعامل OpenAI این است که کنترل هوش مصنوعی از دست انسان خارج شود. آلتمن گفت نگران زمانی است که هوش مصنوعی بگوید: «نمی‌خواهم تو من را خاموش کنی، یا می‌ترسم نتوانم این کار را انجام دهم.»

به‌عبارت‌دیگر، زمانی که یک هوش مصنوعی پیشرفته شروع به نشان دادن رفتار مستقل کند و هر کاری که خودش بخواهد انجام دهد، چه به‌خاطر حفظ بقای خود و چه به خاطر رسیدن به هدفی شوم. سطح اختلالی که این وضعیت می‌تواند ایجاد کند، قابل‌تصور نیست.

سناریو سوم: مدل‌های هوش مصنوعی کنترل دنیا را به دست بگیرند

سم آلتمن گفت می‌ترسد بدون اینکه انسان متوجه شود، مدل‌های هوش مصنوعی کنترل دنیا را به‌دست بگیرند. مدیرعامل OpenAI گفت این فکر کاملاً ترسناک است که سیستم‌های هوش مصنوعی ممکن است چنان در جامعه ریشه بدوانند که ما واقعاً نتوانیم درک کنیم چه‌کار می‌کنند، اما درعین‌حال مجبور باشیم به آنها تکیه کنیم.

دیدگاه‌ها و نظرات خود را بنویسید
مطالب پیشنهادی