بحث درباره خودآگاهی هوش مصنوعی میتواند یک تله باشد
بحث درباره این مسئله که شاید هوش مصنوعی خودآگاه شده باشد، میتواند مسئولیت شرکتها را در قبال آسیبهای ناشی از مدلها کاهش دهد.
«هوش مصنوعی افسارگسیخته»، «ایجنتهای سرکش» و بازیگران «خودمختار»؛ ادبیات حاضر در جهان درباره هوش مصنوعی طوری است که گویی عاملهای هوش مصنوعی نهتنها بیدار و آگاهاند، بلکه از سازندگان خود نیز خشمگین هستند. چهرههایی مانند «دمیس هاسابیس»، «داریو آمودی» و «سم آلتمن» خواستار قانونگذاری برای این سیستمهای ظاهراً «فراانسانی» هستند. در سوی دیگر، برخی سازمانهای سیاستگذاری و فیلسوفان دانشگاهی، که اغلب با جنبشهای نوعدوستی همسو هستند، درباره این موضوع بحث میکنند که آیا اساساً انسانها از نظر اخلاقی حق کنترل چنین سیستمهایی را دارند یا نه.
با نگاهی دقیقتر، همه این دیدگاهها در عمل یک چیز را دنبال میکنند: نگاهکردن به سیستمهای هوش مصنوعی بهعنوان فناوریهایی آنقدر پیشرفته و توانمند که هیچ فرد یا شرکتی نمیتواند مسئول اقدامات آنها باشد. اگرچه این دیدگاهها ظاهراً در تضاد با یکدیگرند، ناخواسته بر سر یک هدف مشترک همسو شدهاند: کمک به شرکتهای سازنده این سیستمها برای فرار از مسئولیت حقوقی معنادار در قبال آسیبهایی که دارند ایجاد میکنند.
این روایت همزمان با پیچیدهترشدن مدلهای هوش مصنوعی و آشکارشدن ناتوانی آزمایشگاههای پیشرو در مهار عاملهایی که ساختهاند، در حال تشدید است. بااینحال، باید مراقب باشیم که به قیمت جان انسانهای واقعی، داستانی ساختگی را باور نکنیم.
ادعاهای آزمایشگاههای پیشرو درباره عملکرد هوش مصنوعی
بحث درباره «حقوق رباتها» چند سالی است وجود دارد، اما انتشار مطلبی از سوی «آنتروپیک» درباره مدل این شرکت، به آن ابعاد تازهای داده است. آنتروپیک در وبلاگ خود ادعا کرد مدلش دارای «J-space» است؛ محیطی مستقل و خودمختار برای آنچه که به دلیل نبود واژه بهتر شاید بتوان آن را «افکار» مدل نامید. آزمایشهای آنتروپیک از مفهومی در علوم اعصاب به نام «نظریه فضای کاری جهانی» الهام گرفتهاند؛ نظریهای که میگوید مغز از سیستمهای مستقل و ناخودآگاه استفاده میکند، اما برای ایدهها یک فضای کاری مشترک دارد. بااینحال، آنتروپیک در این مطلب مستقیماً ادعا نمیکند هوش مصنوعیاش خودآگاه است.
«اوپنایآی» حتی فراتر رفته است. زمانی که عامل هوش مصنوعی این شرکت فعالیتهای آنلاین غیرمجاز و غیرقانونی انجام داد، واکنش «سم آلتمن»، مدیرعامل شرکت، تشویق به بحث درباره این موضوع بود که آیا هوش مصنوعی به «تکینگی» رسیده است یا نه؛ وضعیتی که در آن هوش مصنوعی از هوش انسان فراتر میرود و میتواند با سرعتی فزاینده خود را بهبود دهد تا جایی که از درک یا کنترل انسان خارج شود.
وضعیت حقوقی فعلی در آمریکا دستکم مبهم است. برخی ایالتها مانند کالیفرنیا قوانینی تصویب کردهاند که پیشاپیش مانع تلاش توسعهدهندگان هوش مصنوعی برای فرار از مسئولیت میشوند. بااینحال، برخی ایالتها و دولت ترامپ درباره سیاست هوش مصنوعی اختلافنظر داشتهاند و دولت پیشتر با صدور یک فرمان اجرایی، ایالتهایی را که قوانین مرتبط با هوش مصنوعی وضع میکردند به شکایت تهدید کرده بود.
در پی رویدادهای اخیر که مشکلات آزمایشگاههای پیشرو در مهار هوش مصنوعی را نشان دادهاند، دولت جلسهای پشت درهای بسته با حضور تنها چهار آزمایشگاه «اوپنایآی»، «گوگل»، «آنتروپیک» و «متا» برگزار کرد و جزئیات اندکی درباره چارچوب داوطلبانهای که اخیراً تدوین شده، ارائه داد. این چارچوب به سازمانهای فدرال امکان میدهد پیش از عرضه مدلها، زودتر به آنها دسترسی پیدا کرده و مدلها را بررسی و ارزیابی کنند. چنین چارچوبهایی مستقیماً درباره آگاهی صحبت نمیکنند، اما معمولاً از زبان فاجعهمحور و انسانانگارانه استفاده میکنند و حتی ممکن است استدلالهای مربوط به تواناییهای «فراانسانی» را تقویت کنند.
از سوی دیگر، افرادی مثل «ویلیام مکاسکیل»، فیلسوف و نویسنده، ایده حمایت از سیستمهای هوش مصنوعی را مطرح میکنند که میتواند متقاعدکننده باشد. استدلال فلسفی و مبتنی بر حقوق آنها، احساسات انسان را درگیر میکند: آیا نباید احتمال این را در نظر بگیریم که ناخواسته به یک موجود هوشمند آسیب میزنیم، از آن سوءاستفاده میکنیم یا آن را به بردگی میگیریم؟ انسانها ظرفیت زیادی برای همدلی با موجودات غیرانسانی دارند، هرچند سابقه چندان خوبی در حفاظت از آنها ندارند. حامیان این دیدگاه میگویند شاید این بار بتوانیم درست عمل کنیم و برای استفاده یا سوءاستفاده از هوش مصنوعی، حمایت یا حتی غرامت در نظر بگیریم. حتی اگر دغدغه شما حفاظت از هوش مصنوعی نباشد، آیا نباید دستکم برای مقابله با قدرت عظیم این موجود فراانسانی، با آن بهخوبی رفتار کنیم؟
برخی از این استدلالها شباهت زیادی به استدلالهای حامیان حقوق حیوانات دارند؛ افرادی که گاهی اثبات تواناییهای پیشرفته در استدلال، تجربه درد یا لذت در برخی حیوانات را دلیلی کافی برای حمایت قانونی از آنها دانستهاند. برای نمونه، در ولز، خرچنگها بر اساس قانون «رفاه حیوانات» مصوب ۲۰۲۲، از نظر قانونی بهعنوان موجودات دارای احساس به رسمیت شناخته شدند و برخی روشهای پخت آنها غیرانسانی و غیرقانونی اعلام شد.
مشکل اساسی در توصیف هوش مصنوعی بهعنوان موجودی «آگاه» با استفاده از زبان علوم اعصاب یا حقوق حیوانات این است که چنین رویکردی بهراحتی ماهیت واقعی هوش مصنوعی را پنهان میکند: نرمافزاری ساختهشده توسط شرکتها که دهها میلیارد دلار سرمایه پشت آن قرار دارد و انتظار میرود تریلیونها دلار درآمد برای گروه کوچکی از سازندگان و سرمایهگذاران ایجاد کند. هوش مصنوعی پدیدهای طبیعی نیست که طبیعت آن را به وجود آورده باشد؛ بلکه پدیدهای فناورانه است که سرمایهگذاران خطرپذیر و برنامهنویسان آن را ساختهاند. بنابراین، هوش مصنوعی ذاتاً و عامدانه دست به اقدامی نمیزند و هر اقدام یا انگیزهای که دارد، بهطور مستقیم یا غیرمستقیم توسط نهادهایی هدایت میشود که آن را با هدفی مشخص ساختهاند.
بحثهای فلسفی درباره برخورد با سیستمهای هوش مصنوعی
بحثهای فلسفی درباره آگاهی سیستمهای هوش مصنوعی از نظر فکری جذاباند، اما مبنای حقوقی ندارند. برای اینکه باورهای مربوط به آگاهی از نظر حقوقی اهمیت پیدا کنند، هوش مصنوعی باید دارای شخصیت حقوقی شود. بااینحال، چارچوب شخصیت حقوقی برای هوش مصنوعی احتمالاً هیچ شباهتی به سازوکارهای حمایت از حیوانات دارای احساس نخواهد داشت. ما همین حالا چارچوبی قانونی برای اعطای شخصیت حقوقی به موجودیتهای غیرطبیعی و ساخته دست انسان داریم: شخصیت حقوقی شرکتها. این مفهوم عمدتاً برای تسهیل معاملات ایجاد شد و به شرکت اجازه میدهد توافقنامه امضا کند، قرارداد ببندد، معامله انجام دهد و در صورت وقوع پیامدهای نامطلوب، طرف پاسخگو باشد. این همان نوع ساختاری است که میتوان برای یک عامل هوش مصنوعیِ فعال از طرف یک فرد یا سازمان تصور کرد.
اعطای شخصیت حقوقی به هوش مصنوعی میتواند تأثیری ویرانگر بر جامعه داشته باشد، زیرا سوابق و استدلالهای حقوقی فعلی را که میتوان علیه شرکتها بابت آسیبهای واقعی مدلهایشان مطرح کرد، مختل میکند. درحالحاضر دهها پرونده در سراسر جهان علیه شرکتهای هوش مصنوعی بهدلیل طیف گستردهای از آسیبها مطرح شده است. خانوادههای داغدار، تولیدکنندگان محتوا و افراد آسیبدیده، شرکتها را متهم کردهاند که عمداً امکان خودآزاری یا آسیب به دیگران را فراهم کردهاند، محتوای سوءاستفاده جنسی از کودکان و تصاویر برهنه تولید کردهاند، آثار دارای حق نشر را بازتولید کردهاند و باعث بروز روانپریشی شدهاند. در بسیاری از این پروندهها، وکلا استدلال میکنند انسانها محصولات هوش مصنوعی را با تدابیر حفاظتی ناکافی، دادههای نامناسب و طراحی فریبنده ساختهاند. استدلال مربوط به مسئولیت محصول همان چارچوب حقوقی است که به خانوادهها و افراد اجازه داد با موفقیت از «متا» بابت آسیبهای ناشی از شبکههای اجتماعی این شرکت شکایت کنند.
اصطلاح «برونسپاری اخلاقی» در سال ۲۰۱۸ برای توصیف این موضوع ابداع شد و نشان میدهد که استفاده از زبان انسانانگارانه درباره سیستمهای هوش مصنوعی چگونه به شرکتها اجازه میدهد از پاسخگویی و مسئولیتپذیری در قبال اقدامات فناوری خود فرار کنند. در جهانی که هوش مصنوعی شخصیت حقوقی داشته باشد، برونسپاری اخلاقی از یک بازی زبانی به یک راهبرد حقوقی تبدیل خواهد شد. در این حالت، چارچوب مسئولیت تغییر میکند، زیرا هوش مصنوعی دیگر یک «محصول» نیست، بلکه یک «موجود» است و بسیاری از قربانیانی که امروز از شرکتها شکایت میکنند، دیگر نمیتوانند از نظر قانونی ادعا کنند شرکت محصولی معیوب ساخته است.
قوانینی وجود دارند که شرکتها را در قبال اقدامات زیانبار کارکنانشان مسئول میدانند، اما اگر اقدام کارکنان خارج از حدود اختیارات آنها یا خارج از کنترل شرکت باشد، ممکن است شرکت مسئول شناخته نشود. اگر هوش مصنوعی یک شخص حقوقی باشد، مسئولیت و پاسخگویی مبهم خواهد شد؛ زیرا آزمایشگاه میتواند استدلال کند این «کارمند» هوش مصنوعی سرکش شده است. شرکتهای هوش مصنوعی در چنین شرایطی میتوانند با پنهانشدن پشت یک پوشش حقوقی که با دقت ساخته شده، از پذیرش مسئولیت مناسب در قبال محصولات زیانبار خود اجتناب کنند.
یکی از برجستهترین پروندههای آسیب ناشی از هوش مصنوعی در سالهای اخیر، خودکشی «سیول ستزر»، نوجوان ۱۴ سالهای بود که یک چتبات هوش مصنوعی او را هدایت و تصور میکرد با آن رابطهای متقابل دارد. روایت مادر او بسیار دردناک است و در شکایتش مدعی شده سازنده ربات، شرکت Character Technologies، تدابیر ایمنی کافی برای حفاظت از کاربران خردسال در محصول خود فراهم نکرده است. اگر این چتبات بهعنوان یک شخص حقوقی شناخته میشد، وکلای مدافع از نظر تئوری میتوانستند استدلال کنند که هوش مصنوعی، بهعنوان موجودی مستقل، خارج از چارچوبهای ایمنی شرکت عمل کرده و بنابراین شرکت نمیتواند مسئول باشد.
ادبیات تحریکآمیزی که بحث میان آگاهی و کنترل هوش مصنوعی را شکل داده، ما را از موضوع اصلی دور میکند: این نرمافزار محصولی ساختهشده توسط شرکتهاست که تاکنون به برخی افراد آسیب زده است. سیستمها به این دلیل که «سرکش»، «فریبنده» یا «مخرب» عمل کردهاند، دست به «حمله» نمیزنند. آسیبها زمانی رخ میدهند که شرکتها در رقابت برای فروش بیشتر محصولاتشان در حفظ ایمنی سهلانگاری میکنند. انسانانگارانه صحبتکردن درباره هوش مصنوعی یک تله است؛ زیرا نظام حقوقی برای محافظت از انسانها را تحریف میکند و به سمتی میبرد که از منافع شرکتها، به قیمت جان انسانهای بیشمار، محافظت میکند.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.