۷ داستان از زمانی که هوش مصنوعی، نوع بشر را شکست داد

امروز ما در حال زندگی در جهانی دوگانه هستیم. از یک سو نگرانیم که هوش مصنوعی در آینده نه‌چندان دور و نه‌چندان نزدیک حسابی هوشمند شود و همه‌چیز را به آتش بکشد، از سوی دیگر صدای آرامش‌بخش سیری را می‌شنویم و هالیوود هم فیلم‌هایی می‌سازد که آن روی مثبت هوش مصنوعی را نشان می‌دهند و به ما می‌گویند ربات‌ها هم به اندازه سازندگان‌شان شکننده خواهند بود.

اما آن داستان‌های احساسی راجع به اینکه باید با ربات‌ها هم خوش‌برخورد باشیم را به دست فراموشی بسپارید. کافیست همینطور به توسعه هرچه بیشتر هوش مصنوعی ادامه دهیم و به ناگاه خواهیم دید که در حل شکست خوردن از یک مشت الگوریتم و قطعه سیلیکونی هستیم. در این مقاله می‌خواهیم به شما یادآوری کنیم که چرا باید از ذهن‌های مصنوعی و ناشناخته ترسید.

با دیجیاتو همراه باشید تا به مرور داستان‌های شکست خوردن انسان‌ها از هوش مصنوعی بپردازیم.

یوریسکو، فرمانده فضایی بی‌رحم

به نظر می‌رسید لنت دست به تلاشی احمقانه زده. درحالی که بازیکنان باتجربه ناوگان‌هایی شامل کشتی‌هایی با ابعاد مختلف رفتند، هوش مصنوعی لنت ناوگانی بزرگ شامل ۹۶ کشتی ساخته بود که ۷۵ تا از آن‌ها، کشتی‌هایی شدیدا زرهی با موشک‌اندازهای غول‌آسا بودند و به خاطر وزن زیادشان، عملا توانایی هیچ حرکتی نداشتند. این ناوگان تمام مهاجمین را از میدان به در می‌کرد، اما در ازای بهایی سنگین. کشتی‌های هوش مصنوعی هدفی بسیار آسان برای دشمنان بودند، اما تعدادشان بسیار بسیار زیاد بود. به صورت معمول لنت ۵۰ کشتی را از دست می‌داد، اما ناوگان توانست به راحتی ۲۰ رقیب را شکست دهد.

هوش مصنوعی بی‌رحم لنت، یوریسکو نام گرفته بود. لنت برنامه‌نویسی آن را در سال ۱۹۷۶ میلادی آغاز کرده بود و مجموعه‌ای از قوانین گوناگون و متنوع را به سیستم خورانده بود. هوش مصنوعی می‌توانست شروع به تست متغیرهای گوناگون کند و در نهایت یک راه حل بیابد. همین آزمون و خطاها به تکامل هرچه بیشتر سیستم منتهی شد و هوش مصنوعی توانست با ترکیب کردن متدهای مختلف، ایده‌هایی موفقیت‌آمیز تولید کند. متغیرهای بسیار زیادی بازی Traveller بستری معرکه برای تست کردن قابلیت‌های یوریسکو بود و لنت برای یک ماه کامل، روزانه ۱۰ ساعت روی ۱۰۰ کامپیوتر زیراکس کار کرد تا طراحی نهایی به دست آید.

یوریسکو آنقدر موثر عمل می‌کرد که طراحان بازی Traveller مجبور به تغییر دادن قوانین برای تورنومنت سال بعد شدند و چابکی ناوگان، تبدیل به عنصری مهم برای پیروزی شد. یوریسکو مجددا در مسابقات شرکت کرد و با همان طراحی مشابه، اما به کمک تاکتیکی تازه دوباره به پیروزی رسید. این بار هوش مصنوعی آن دسته از کشتی‌های خودی که فلج شده بودند را نابود می‌کرد تا چابکی تمام ناوگان از دست نرود. نبوغ‌آمیز. بی‌رحمانه.

یک بازی بی‌نقص و یک بازیکن تقریبا بی‌نقص

بخش اعظمی از پژوهش‌های صورت گرفته روی هوش مصنوعی، به کمک بازی‌های کلاسیکی نظیر شطرنج، چکرز، پوکر و چیزهایی از این دست بوده است. این بازی‌ها قوانینی ساده دارند اما می‌توانند به شکلی شدیدا پیچیده تجربه شوند. بازیکنان انسانی هم معمولا به همان اندازه پیچیده هستند. اما وقتی این بازیکنان به مصاف هوش مصنوعی می‌روند، معمولا تراژدی نیز از راه می‌رسد.

یکی از ساده‌ترین بازی‌های کلاسیک، چکرز است و این ضمنا نخستین بازی در جهان بود که هوش مصنوعی به مهارتی بیشتر از یک انسان در آن دست یافت. این هوش مصنوعی Chinook نام داد و توسط تیمی زیر نظر جاناتان شیفر، پروفسور دانشگاه آلبرتا توسعه یافته بود تا به رقابت با بهترین بازیکن چکرز در جهان، یعنی ماریون تینزلی بپردازد. تینزلی تقریبا بی‌نقص‌ترین بازیکن چکرز بود. او در دوران ۴۵ ساله فعالیت خود، تنها ۵ بازی را به رقبای انسانی باخته بود. حریفان تیزنلی معمولا محافظه‌کارانه بازی می‌کردند و در صدد دستیابی به مساوی با او بر می‌آمدند. اما Chinook رفته بود که ببرد و به شکلی بسیار خطرناک بازی می‌کرد.

نخستین بار در سال ۱۹۹۰ میلادی بود که Chinook و تینزلی به مصاف یکدیگر رفتند و تینزلی پیروز شد. دومین بازی در سال ۱۹۹۲ برگزار شد و جایزه، قهرمانی جهان بود. بعد از ۳۹ بازی که ۳۳ دست از آن‌ها به تساوی منتهی شد، تیزنلی تنها دو بازی باخت و Chinook چهار بازی را واگذاری کرده بود. بنابراین قهرمانی به نوع بشر رسید. سومین مواجهه در سال ۱۹۹۴ بود. این دو شش بازی مساوی داشتند، اما بعد تیزنلی احساس ناخوش‌احوالی کرد و کناره گرفت. Chinook به صورت پیش‌فرض برنده اعلام شد، اما این پیروزی آنقدرها دلچسب نبود. سرطان لوزالمعده در تیزنلی تشخیص داده شد و او سال بعد جان خود را از دست داد.

Chinook هیچوقت به صورت مستقیم قادر به شکست دادن او نبود و همین باعث شیفر سرخورده باقی بماند: هیچکس دیگری جز او نمی‌توانست تینزلی را به چالش بکشد. بنابراین او ۱۲ سال بعدی عمرش را وقف چکرز کرد تا بی‌نقص‌ترین شکل بازی را بیابد. او در سال ۲۰۰۷ موفق شد و پی برد که بی‌نقص‌ترین بازی چکرز، به تساوی منتهی می‌شود.

زمانی که گری کاسپارف کامپیوتر را به تقلب متهم کرد

حداقل Chinook با آن مشکلی مواجه نشد که Deep Blue بعد از شکست دادن گری کاسپارف، بازیکن افسانه‌ای شطرنج، در سال ۱۹۹۷ تجربه کرد. کاسپارف به خاطر فشار زیادی که در رویداد مربوط به مسابقه تجربه می‌کرد عملکردی چندان خوب نداشت و در جریان یکی از بازی‌ها، متوجه حرکتی عجیب از سوی هوش مصنوعی شد. در واقع هوش مصنوعی فرصتی برای کیش کردن کاسپارف داشت و از آن استفاده نکرد. به این ترتیب، بازیکن روس از مسابقه کناره گرفت و شرکت IBM که سازنده Deep Blue بود را به تقلب متهم کرد.

او خواستار شواهدی شد که نشان دهند هوش مصنوعی خودش تصمیم به چنین کاری گرفته، اما IBM نمی‌توانست اطلاعات مورد نظر را در اختیارش قرار دهد. Deep Blue از درختان جستجو برای تصمیم‌گیری استفاده می‌کرد و اطلاعات پردازش شده بسیار بسیار بیشتر از آن بودند که بتوانید به راحتی تحویل‌شان دهید. این ماجرا برای مدتی طولانی تبدیل به یک تئوری توطئه شد، اما Deep Blue در نهایت برنده ۳ بازی شد و این یعنی کاسپارف نخستین قهرمان جهان بود که بازی را به هوش مصنوعی واگذار می‌کرد.

چت بات بددهنی که اتفاقی تست تورینگ را شکست داد

به طور یقین نام تست تورینگ به گوشتان خورده. این تستی که آلن تورینگ در سال ۱۹۵۰ ابداع کرد و روشی برای قضاوت اینست که آیا هوش مصنوعی می‌تواند رفتاری هوشمندانه از خود نشان دهد یا خیر. تلاش برای پشت سر گذاشتن این تست به ساخت انبوهی از چت‌ بات‌ها منجر شده که طراحی شده‌اند تا خود را انسانی واقعی جای زده و مردم را فریب دهند. نخستین مورد مشهور، ربات الیزا بود که در سال ۱۹۶۵ میلادی از راه رسید و امروز هم مسابقه‌ای به نام جایزه لوبنر برای چنین چت بات‌هایی برگزار می‌شود. هنوز برای بسیار مشخص نیست که این تست پشت سر گذاشته شده یا خیر. اما ادعای پشت سر گذاشتن تست تورینگ بارها به گوش رسیده و یکی از آن‌ها متعلق به رباتی به نام یوجین در سال ۲۰۱۴ است که خودش را یک پسر ۱۳ ساله اکراینی جلوه می‌دهد.

اما حقیقت اینست که تست تورینگ مدت‌ها پیش، در ماه مه ۱۹۸۹ و به صورت اتفاقی پشت سر گذاشته شد. ربات پیروز mGonz نام داشت و توسط دانشجوی ۲۰ ساله دانشگاه دوبلین، مارک هامفرایز، توسعه یافته بود. او این ربات را روی یک سرور قرار داده بود تا زمانی که خودش در دسترس نبود، پیام‌های چت را دریافت کند. و یک روز، یک نفر از دانشگاه دریک شروع به سرک کشیدن در سرور می‌کند و با این پاسخ مواجه می‌شود: «از این کارای مرموزت دست بکش و با جمله کامل حرف بزند». آنچه سپس اتفاق افتاد، مکالمه‌ای یک ساعت و نیمه میان ربات و دانشجوی ناشناس بود.

راز mGonz این بود که به گونه‌ای برنامه‌نویسی شده بود که مثل یک آدم عوضی صحبت کند. انسان می‌پرسد: «مارک؟» و بات جواب می‌دهد: «مارک اینجا نیست و منو ول کرده تا با احمق‌هایی مثل تو سر و کله بزنم». مکالمه خیلی زود به سمت روابط عاشقانه پیش می‌رود و mGonz بارها از انسان می‌پرسد که چه زمانی برای آخرین رابطه داشته. او ادعا می‌کند که آخرین بار مربوط به شب قبل بوده. اما بعد از مکالمه‌ای طولانی خسته شده و اعتراف می‌کند که ماجرا به مدت‌ها پیش از ۲۴ ساعت اخیر بازمی‌گردد. ربات برنده می‌شود.

mGonz رباتی آنقدرها پیچیده نبود، اما یک چیز را به خوبی نشان داد: اینکه وقتی روابط عاشقانه مردان را زیر سوال ببرید، در صدد پنهان‌کاری و خوب جلوه دادن همه‌چیز برمی‌آیند.

سوء استفاده بات‌های Unreal از اجتماعی بودن انسان احمق

Botprize مسابقه‌ای است که عملا همتای تست تورینگ برای هوش مصنوعی بازی‌های ویدیویی به حساب می‌آید. این مسابقه برای بات‌هایی تدارک دیده که در بطن بازی Unreal Tournament طراحی می‌شوند و هدفش، ترغیب توسعه‌دهندگان به ساخت هوش مصنوعی‌هایی است که با رفتار مشابه انسان‌ها، تجربه بازی را هیجان‌انگیزتر می‌کنند. در این مسابقه قرار نیست شاهد هوش مصنوعی‌های ابرهوشمندی باشیم که انسان‌ها را شکست می‌دهند، بات‌ها در نهایت به اندازه ما احمق خواهند بود.

در سال ۲۰۱۴ شاهد دو برنده در این مسابقه بودیم که MirrorBot و UT^2 نام داشتند. این دو ربات توانستند به امتیاز «عملکرد انسانی» ۵۲ درصد برسند: رقمی که با تقسیم تعداد دفعاتی که ربات به نظر شبیه انسان بوده است بر تعداد دفعات کلی که بازی کرده به دست می‌آید. برای مقایسه، بهترین بازیکن انسانی Unreal Tournament به امتیاز ۵۳ درصد دست یافته و این یعنی دو ربات مورد اشاره دستاوردی بزرگ داشته‌اند.

MirrorBot که با اختلافی بسیار اندک به بیشتری امتیاز دست یافته بود، در واقع پیچیدگی کمتری نسبت به UT^2 داشت. UT^2 از یک سیستم آموزش انقلابی استفاده می‌کرد تا استراتژی‌های انسانی بچیند و بسته به شرایط، از میان آن‌ها بهترین گزینه ممکن را انتخاب کند. اما MirrorBot به مراتب هوشمندتر بود. این ربات از ماهیت اجتماعی ما سوء استفاده کرد، از اینکه رفتارهایی شبیه به هویت خودمان بروز می‌دهیم. MirrorBot خیلی ساده به نظاره بازیکنان انسانی نشست و از آن‌ها تقلید کرد. وقتی این ربات در میدان دید بازیکنان بود و خطر کشته شدن تهدیدش نمی‌کرد، همان حرکاتی را از خود بروز می‌داد که بازیکنان انسانی انجام می‌دادند. و همین کافی بود تا بازیکنان واقعی، او را یکی مثل خود به حساب می‌آورند.

بات‌هایی که بازیکنان حرفه‌ای بازی‌های ویدیویی را شکست می‌دهند

برخی هوش مصنوعی‌ها واقعا در بازی‌های ویدیویی مهارت دارند. هوش مصنوعی خودآموخته DeepMing می‌تواند بازیکنان را در ۲۹ بازی از ۴۹ بازی قدیمی آتاری شکست دهد و هر روز قدرتمندتر از دیروز می‌شود. از جمله این بازی‌ها می‌توان به Space Invaders و Breakout اشاره کرد.

بعد هم یک هوش مصنوعی دیگر را داریم که طراحی شده تا StarCraft: Blood War را بازی کند. بهترین مثال‌های بازی این هوش مصنوعی واقعا خوب هستند: این ربات می‌تواند بازیکنان انسانی را شکست دهد، اما هنوز آنقدر قدرتمند نشده که بازیکنان سطح حرفه‌ای را کنار بزند. در واقع الگوهای پشت استراتژی‌های این ربات اندکی واضح و قابل سوء استفاده هستند.

برگزارکنندگان مسابقات AIIIDE StarCraft AI تخمین می‌زنند که هوش مصنوعی StarCraft طی ۵ الی ۱۰ سال آینده قادر به شکست دادن بازیکنان حرفه‌ای خواهد بود. اما تا آن زمان، Blood Wars آنقدر قدیمی می‌شود که هیچ بازیکن حرفه‌ای نخواهد داشت.

ربات‌های مالی که پیش از اینکه اخبار را بخوانیم، ثروتمند می‌شوند

احتمالا شما نیز مثل ما همین حالا از میزان طمع در دنیای بانکداری بین‌المللی وحشت‌زده شده باشید، اما آیا می‌دانید که بورس اکنون به شکلی گسترده توسط هوش‌های مصنوعی مدیریت می‌شود. رویکرد الگوریتمی یا مبادلات فرکانس بالا به پدیده‌ای گفته می‌شود که در آن، بات‌ها به پایش تورم‌های بازار و اخبار بین‌المللی پرداخته و سریعا دست به کار می‌شوند تا حتی از کوچک‌ترین فرصت‌های بالقوه سود ببرند. در جهان امروز، اول بودن همه‌چیز است: قیمت‌ها در بازار بورس سر به فلک می‌کشند، چون دلالان دفاتر خود را در نزدیک‌ترین جای ممکن به آن‌ها تاسیس می‌کنند تا تاخیر به کمترین میزان برسد.

از آن‌جایی که صحبت از میزانی باورنکردنی از پول است، جهان دلالی الگوریتمی شدیدا مخفی‌ باقی مانده و افراد کمی می‌دانند که این رویکرد چطور، چه زمانی و در کجا در پیش گرفته می‌شود. اما متخصصین حداقل از یک مثال اطمینان خاطر دارند که در آن، یک ربات ظرف یک روز ۲.۴ میلیون دلار درآمدزایی کرد. این ربات به سرمایه‌گذاری روی شرکتی به نام Altera پرداخت، آن هم درست بعد از انتشار شایعه‌ای که مدعی می‌شد اینتل در صدد خرید کمپانی برآمده. نتیجه‌گیری منطقی اینست که ربات خبر را خوانده، آن را درک کرده و تصمیم گرفته دست به خرید سهام بزند. آن هم درست چند ثانیه بعد از انتشار خبر. هیچ امیدی نیست که انسان‌ها بتوانند چنین سرعت عملی داشته باشند.

البته که سپردن بازار به دست بات‌ها لحظاتی ترسناک هم رقم زده. مثلا در جریان سقوط ناگهانی میانگین صنعتی داو جونز در ماه مه ۲۰۱۰ و احیای آن، مقصران اصلی، دلالان فرکانس بالا و متکی بر بات بودند. تصویر کلی ماجرا هنوز مخفی باقی مانده، اما اساسا موضوع از این قرار بود که یک ربات دست به ۴.۱ میلیارد دلار معامله سلف زد و طی ۲۰ دقیقه دیوانه‌وار، ۷۵ هزار قرارداد روانه بازار کرد. بعد از این، قیمت‌ها سقوط کردند و دیگر ربات‌های فرکانس بالا شروع به مبادله همان قراردادها کردند. با خرید و بازفروش این قراردادها مثل سیب‌زمینی، شاهد دستیابی به نرخ انعقاد ۲۷ هزار قرارداد در تنها ۱۴ ثانیه بودیم.

در این بین، رباتی که همه‌چیز را آغاز کرده بود خیلی ساده شروع به سرعت بخشیدن به روند فروش سهام کرد. تمام فعالان بازار با چشمانی حیرت‌زده این دیوانگی را تماشا می‌کردند. بازار به آشوب کشیده و بعد احیا شد، اما چند ماه طول کشید تا محققین بالاخره متوجه شدند دلیل چه بود. و حالا تصور کنید که زندگی و اقتصاد ما در دستان چنین ربات‌های بی‌شعوری است.