کمیسر حقوق بشر سازمان ملل: هوش مصنوعی می‌تواند خطری وجودی برای بشریت باشد

«فولکر تورک»، کمیسر عالی حقوق بشر سازمان ملل متحد، با هشدار درباره خطرات احتمالی هوش مصنوعی پیشرفته برای بشریت، از کشورهایی که میزبان توسعه این فناوری یا در زنجیره تأمین آن هستند خواست درباره تعیین خطوط قرمز بین‌المللی برای قابلیت‌هایی که هوش مصنوعی نباید هرگز به آن‌ها دست پیدا کند، توافق کنند.

تورک این اظهارات را در جریان ارائه گزارش جهانی خود به شورای حقوق بشر سازمان ملل در شصت‌وسومین نشست این شورا در ژنو مطرح کرد. او تهدیدهای ناشی از فناوری‌های جدید برای حقوق بشر را «ناآشنا و حتی بی‌سابقه» توصیف کرد و گفت:

«من نگرانی‌های افراد فعال در صنعت را درباره اینکه هوش مصنوعی پیشرفته می‌تواند خطری وجودی برای بشریت ایجاد کند، درک می‌کنم و با آن‌ها هم‌نظر هستم.»

او درباره وضعیت حکمرانی هوش مصنوعی نیز گفت:

«نیاز به حکمرانی بر هوش مصنوعی به‌طور گسترده پذیرفته شده است، اما اقدام کجاست؟»

نظرات کمیسر سازمان ملل درباره هوش مصنوعی

کمیسر عالی حقوق بشر سازمان ملل علاوه بر دولت‌ها، به تمرکز قدرت در صنعت هوش مصنوعی نیز اشاره کرد و گفت: «تعداد انگشت‌شماری از مردان تقریباً قدرت نامحدودی بر هوش مصنوعی دارند.»

او در این زمینه نام شرکت‌هایی از جمله آنتروپیک، متا و اوپن‌ای‌آی را مطرح کرد و گفت دفتر او قصد دارد با این شرکت‌ها وارد تعامل شود و همه مسائل را صرفاً از مسیر دولت‌ها دنبال نکند.

تورک همچنین درباره سطح توانایی سیستم‌های هوش مصنوعی که باید غیرقابل‌قبول تلقی شود، معیارهایی مشخص مطرح کرد. او گفت: «هوش مصنوعی که از محیط آزمایش خود فرار کند یا برای جلوگیری از خاموش‌شدن خود، از توسعه‌دهندگان باج‌ بگیرد، بیش‌از‌حد قدرتمند است.»

تورک علاوه‌بر تعیین خطوط قرمز، خواستار تضمین‌های قوی برای ایمنی و امنیت هوش مصنوعی و ایجاد سازوکارهای راستی‌آزمایی مستقل شد؛ سازوکارهایی که به گزارش‌دهی خود شرکت‌ها متکی نباشند. او همچنین خواستار ارزیابی تأثیرات هوش مصنوعی بر اشتغال، دموکراسی و محیط زیست شد.

ایده تعیین خطوط قرمز بین‌المللی برای هوش مصنوعی پیش‌ازاین نیز مطرح شده است. فراخوان جهانی برای خطوط قرمز هوش مصنوعی (Global Call for AI Red Lines) که در سپتامبر ۲۰۲۵ در مجمع عمومی سازمان ملل متحد راه‌اندازی شد، با حمایت بیش از ۲۰۰ نفر، از جمله ۱۰ برنده جایزه نوبل، خواستار آن شده بود که دولت‌ها تا پایان سال ۲۰۲۶ درباره محدودیت‌های الزام‌آور به توافق برسند و نهادی مستقل مسئول اجرای آن باشد.

سازمان ملل متحد پیش‌تر نیز درباره فاصله میان سرعت پیشرفت هوش مصنوعی و توانایی نظام‌های حکمرانی برای مدیریت آن هشدار داده بود. در ژوئیه، دبیرکل سازمان ملل در گفت‌وگوهای جهانی درباره حکمرانی هوش مصنوعی در ژنو موضعی مشابه را مطرح کرده بود.