آیا ظهور هوش مصنوعی می تواند به معنای خاتمه جهان باشد؟

تابحال شخصیت های معروفی در رابطه با هوش مصنوعی به اظهار نظر پرداخته اند و ایلان ماسک یکی از اولین های آنهاست که مدعی شد خطر هوش مصنوعی به صورت بالقوه از تسلیحات هسته ای نیز بیشتر است.

استیون هاوکینگ هم در رابطه با این موضوع نگران است و اظهار داشته که «توسعه کامل هوش مصنوعی می تواند پایانی برای نسل بشری باشد.» او گفته است که ماشین ها عاقبت کنترل شان را در دست می گیرند و با سرعتی فزاینده خود را از نو طراحی خواهند کرد.

این گفته ها به اواخر سال 2014 میلادی باز می گردد. در اوایل سال 2015 میلادی بیل گیتس نیز به جمع صاحب نظران در این رابطه پیوست و اظهار داشت «من در جایی کار می کنم که نگران هوش ماورایی ماشین هاست. با ایلان ماسک و برخی دیگر روی این موضوع اتفاق نظر دارم و درک نمی کنم که چرا برخی از مردم به آن اهمیتی نمی دهند.»

اما علت این همه نگرانی چیست؟ اگر بخواهیم به طور خلاصه و ساده بگوییم گفته های همه این افراد تحت تاثیر کتابی است که به قلم نیک باستروم استاد فلسفه دانشگاه آکسفورد نوشته شده. این کتاب تحت عنوان «ابر نبوغ: مسیرها، خطرات و استراتژی ها» (Superintelligence: Paths, Dangers, Strategies) منتشر شده و در آن به تبیین خطرات و استراتژی های احتمالی برای مدیریت ابرنبوغ مصنوعی یا ASI پرداخته شده.

در ادامه این مطلب با دیجیاتو همراه باشید.

اما پیش از درک گفته های ایلان ماسک و هم باورانش لازم است که کمی به عقب باز گردیم و برخی اصطلاحات را برایتان توضیح دهیم.

هوش مصنوعی (AI)

از آغاز عصر کامپیوتر تاکنون، دانشمندان، فیلسوفان، مولفان و فیلم سازان مختلف هر یک به طریقی از هوش مصنوعی سخن گفته اند. در دهه های 1960 و 1970 میلادی دانشمندان اعلام کردند که تا ساخت کامپیوتر با توانایی فکر کردن تنها یک گام باقی مانده است.

البته این اتفاق هیچگاه رخ نداد و اگر بخواهیم صادق باشیم، متخصصان حال حاضر هوش مصنوعی هیچکدام نمی دانند که دقیقا چه زمانی مشکل ایجاد هوش مصنوعی برطرف می گردد.

آنها همچنین در مورد مصداق و معنای هوش مصنوعی احتیاط بیشتری را به خرج می دهند و آنطور که به نظر می رسد ارائه یک تعریف دقیق برای آن دشوارتر از چیزی است که تصورش می شد.

زمانی که حرف از هوش مصنوعی به میان می آید افراد غالبا به یاد کلماتی نظیر خودآگاهی، شهود، تفکر انتزاعی، درک، هوشیاری، ذهن و یادگیری می افتند.

جامعه AI نیز به خاطر مفاهیم حسی و عمیقی که در رابطه با هوش کلی و مصنوعی وجود دارد تصمیم گرفت که سه اصطلاح خاص را برای طبقه بندی این اصطلاح تعریف کند که به ترتیب عبارتند از AI ضعیف، AI نیرومند و ابر نبوغ مصنوعی.

هوش مصنوعی ضعیف (Weak AI)

این عبارت به یک سیستم کامپیوتری اشاره دارد که می تواند جنبه های مختلفی از هوشیاری و درک انسانی را شبیه سازی و تقلید کند و طراحان آن به هیچ وجه ادعا نمی کنند که سیستم ارائه شده شان دارای ذهن یا خودآگاهی است، با این حال چنین کامپیوتری می تواند به گونه ای با انسان تعامل داشته باشد که (حداقل به طور سطحی) بتوان گفت که شکلی از هوش را در خود دارد.

نویسنده این مقاله به یاد می آورد زمانی که تنها 11 یا 12 سال داشت، پدربزرگش یک برنامه ساده برای چت از طریق کامپیوتر می نویسد. طرز استفاده از آن برنامه هم به این صورت بود که باید جمله ای را در داخل کامپیوتر تایپ می کردید و آنگاه برنامه به شما پاسخی می داد.

چنین برنامه ای برای یک کودک 11-12 ساله بسیار جالب به نظر می آمد؛ کافی بود عبارتی را روی کیبورد تایپ کند تا کامپیوتر به آن جواب دهد.

اما نمی توان آن را هوش مصنوعی به شمار آورد چراکه پاسخ ها از قبل برنامه ریزی شده بودند، با این حال، اگر چنین مفهومی را تا چند برابر بزرگ تر نمایید آنگاه می توانید دیدی کلی نسبت به هوش مصنوعی ضعیف پیدا کنید.

این روزها قابلیت مذکور به سطحی از پیشرفت رسیده که در قالب نوعی دستیار صوتی به تلفن های هوشمند راه یافته و کاربران حتی با مطرح کردن سوالات پیچیده از موبایل های خود باز هم می توانند به پاسخ برسند.

برای نمونه در تلفن های هوشمند اندرویدی اگر هوا آفتابی باشد و این سوال را بپرسید که آیا به چتر نیاز پیدا خواهید کرد یا خیر؟ دستگاه به شما می گوید که پیش بینی نمی کند فردا هوا بارانی باشد.

این را می توان شکلی بدوی از هوش مصنوعی ضعیف خواند؛ گونه ای از هوش ماشینی که توانایی پردازش کردن پرسش ها، تشخیص موضوعات، دنبال کردن محتوی یک گفتگو و ارائه پاسخ های معنا دار را دارد.

بشر امروز به این نوع از نبوع ماشینی دسترسی دارد. حال اگر همین را چند برابر بزرگ تر نمایید به هوش مصنوعی واقعی می رسید؛ یعنی توانایی تعامل با ماشین ها به روشی طبیعی و دریافت پاسخ ها و خروجی های معنادار.

خود هوش مصنوعی ضعیف را هم می توان به دو زیرگروه تقسیم کرد که به مرور زمان امکان ادغام کردنشان با هم وجود دارد اما فعلا به صورت مجزا از هم در نظر گرفته می شوند: هوش مصنوعی ضعیف تخصصی (Specialist weak AI) و هوش مصنوعی ضعیف عمومی (general weak AI).

مورد اول نوعی برنامه است که توانایی انجام تنها یک کار را دارد اما می تواند همان یک کار را هم به بهترین شیوه ممکن به انجام برساند. برنامه بازی شطرنج IBM موسوم به Deep Blue نمونه ای مناسب از این نوع هوش است که موفق شد دو برنده سابق برنامه تلویزیونی Jeopardy! را شکست دهد (در این برنامه کلمه ای که به دانش عمومی مربوط می شود در اختیار شرکت کنندگان قرار می گیرد و آنها باید سوال مناسب را برایش بسازند).

هوش مصنوعی ضعیف عمومی برنامه ایست که قابلیت به کار گیری در هر محیطی را دارد. Deep Blue توانایی شرکت در برنامه تلویزیونی یاد شده را نداشت و صرفا توانست دو تن از برندگان آن را شکست دهد. از طرفی ابر کامپیوتر واتسون نیز نتوانست شطرنج بازی کند.

هوش مصنوعی نیرومند (Strong AI)

این عبارت نامی است که برای یک سیستم کامپیوتری نظری در نظر گرفته شده و از نظر فاکتورهایی شامل خودآگاهی، هوشیاری و ادراک با ذهن انسان برابری می کند.

این نوع نبوغ، نمونه شبیه سازی شده ای از یک موجود خودآگاه نیست و خودش آگاهی لازم را دارد. این هوش درک یا تفکر انتزاعی را تقلید نمی کند و در اصل توانمندی درک و تفکر انتزاعی را دارد.

زمانی که نویسندگان داستان های علمی و تخیلی و اساتید فلسفه در مورد هوش مصنوعی حرف به میان می آورند، عموما به این نوع اشاره دارند. HAL 9000، Cylons ،Skynet و ربات های Isaac Asimov همگی نمونه هایی از این نوع هوش هستند.

نکته مهم در رابطه با این نوع هوش آن است که اگر تعمدا مهار نشود از لحاظ نظری این توانایی را دارد تا تحقیقاتی را در رابطه با هوش مصنوعی انجام دهد و این یعنی به صورت نظری می تواند نمونه های دیگری از هوش مصنوعی را ساخته، خود را از نو برنامه ریزی کند و رشد کند.

ابر نبوغ مصنوعی (Artificial superintelligence)

با فرض اینکه سیستم های بهره مند از هوش مصنوعی نیرومند می توانند درست مانند یک انسان به همان سطح از هوش کلی برسند و با در نظر داشتن اینکه قادرند نمونه های دیگری از خود ساخته و خودشان را از نو برنامه ریزی کنند، آنگاه این تصور ایجاد می شود که عاقبت می توانند به صورت ناخواسته به ایجاد ابر نبوغ مصنوعی بیانجامند.

ابر هوش مصنوعی به میزان زیادی از نظر هوش و سرعت نسبت به انسان برتری دارد. این نوع نبوغ در صورتی که با مشکلی روبرو شود، خواه به ارائه خود و خواه به خاطر محیطی که در آن قرار دارد قادر خواهد بود که آن مشکل را با سرعتی به مراتب بیشتر از انسان حل کند.

نیک باستروم در کتاب خود به فرضیه سازی در مورد پیامدهای این نوع هوش برای نسل بشر می پردازد. او شرایطی را پیش بینی می کند که در آن، انسان توانایی کنترل (یا مهار کردن) ابرهوش مصنوعی را ندارد و آنگاه نتیجه چه می شود؟ همانطور که می توانید تصورش را کنید بخش هایی در کتاب بوستروم وجود دارد که در آنها گفته شد در این صورت نسل بشری بر می افتد.

در واقع منظور این است که در این شرایط ابرهوش مصنوعی نوعی تکینگی خواهد بود؛ لحظه ای که به صورت قابل توجه بر نسل بشر اثر می گذارد و حتی ممکن است که انقراض آن را به دنبال داشته باشد.

در بخشی از کتاب این نویسنده تحت عنوان «استراتژی ها» به اقداماتی اشاره شده که بشر می تواند برای اطمینان از عدم وقوع این تکینگی انجام دهد و به همین خاطر است که ایلان ماسک می گوید: «هر چه بیشتر می گذرد بیشتر به این نتیجه می رسم که باید نوعی ناظر قانونی (در سطح ملی و شاید بین المللی) وجود داشته باشد تا مطمئن شود که بشر دست به این قبیل کارهای احمقانه نمی زند.»

بررسی واقعیت

داستان های علمی و تخیلی در نوع خود بسیار جالبند و طرفداران زیادی دارند. بسیاری تصور می کنند که این داستان ها مبنای دیگری جز تخیل ندارند اما در حقیقت اغلبشان بر مبنای برخی حقایق علمی ساخته شده اند و بعضا پیش می آید که این داستان ها سرمنشا کشفی تازه می شوند.

با این حال، اینکه ما صرفا بتوانیم چیزی را تصور کنیم و در مورد آن فرضیه سازی نماییم به معنای احتمال داشتن آن و یا وقوعش در آینده نیست. چندین سال پیش ساخت ماشین های پرنده، تولید برق با استفاده از شکافت هسته ای و تهیه ابر رساناها بیشتر به تخیل شباهت داشت تا واقعیت. هیچیک از این موارد وجود نداشتند اما دانشمندان با چنان اطمینان بالایی از آنها سخن می گفتند که بسیاری متقاعد می شدند بالاخره این فناوری ها از راه خواهند رسید.

البته استدلال های بسیار محکمی هم در باب رد ظهور هوش مصنوعی نیرومند و ابر هوش مصنوعی وجود دارد و یکی از بهترین آنها از سوی John Searle فیلسوف آمریکایی و استاد فلسفه دانشگاه برکلی مطرح می شود.

این استدلال که اتاق چینی نام دارد بدین شرح است:

اتاقی قفل را در نظر بگیرید که شخصی در داخل آن است و نمی تواند چینی صحبت کند. او در داخل اتاق کتابی دارد که در آن نوشته شده چطور به پیام های دریافتی اش به زبان چینی پاسخ دهد. این کتاب زبان چینی را به زبان مادری این فرد ترجمه نمی کند و صرفا به او نشان می دهد که چطور پاسخی را بر مبنای چیزی که دریافت می کند، ارائه نماید. در خارج از اتاق فرد دیگری حضور دارد که به زبان چینی حرف می زند و از زیر در با او ارتباط برقرار می کند. فرد زندانی شده پیام ها را دریافت می کند و برای آنکه بداند در پاسخ هایش از کدام نمادها استفاده کند قواعد ذکر شده در کتاب را در پاسخ هایش دنبال می کند. در مرحله بعد، پاسخ ها به فردی که پشت در ایستاده داده می شود و چون جواب ها به زبان چینی نوشته شده اند، فردی که بیرون از اتاق حضور دارد باور خواهد کرد که شخص داخل اتاق چینی زبان است.

اگر جواب ها به اندازه کافی جالب باشند، این تصور که فرد داخل اتاق چینی زبان است هم بیشتر تقویت می شود. برای مثال، اگر از فرد سوال شود «هفته آینده هوا چطور خواهد بود؟» و جواب اینطور باشد «من نمی دانم چون از روز گذشته در این اتاق حبس شده ام» آنگاه شخصی که در خارج از اتاق قرار دارد بیشتر متقاعد خواهد شد که فرد محبوس داخل اتاق چینی زبان است.

نکته های کلیدی بدین شرح هستند:

- فردی که داخل اتاق است چینی صحبت نمی کند.

- فردی که داخل اتاق است معنای پیام ها را نمی فهمد.

- فردی که داخل اتاق است معنای پاسخ هایی که ارائه می دهد را نمی فهمد.

زمانی که همین ایده را در مورد هوش مصنوعی به کار می گیرید به سرعت در خواهید یافت که یک برنامه کامپیوتری پیچیده قادر است هوش را تقلید کند اما هیچگاه نمی تواند برای خود هوش داشته باشد.

در هیچ برهه ای از زمان، ماشین نمی تواند معنای پیامی که دریافت می کند یا پاسخی که ارائه می دهد را دریافت کند و آنطور که Searle می گوید: علم نحو برای درک معنا کافی نیست.

استدلال دیگری که در مورد هوش مصنوعی نیرومند مطرح می شود این است که کامپیوترها فاقد هوشیاری هستند و این مساله ایست که قابل برنامه ریزی نیست.

ایده این استدلال موضوع اصلی کتاب Sir Roger Penrose با عنوان ذهن تازه امپراتور است. او در کتاب خود می گوید: با در نظر داشتن این مساله که فکر حاوی یک عامل غیر محاسباتی است، کامپیوترها هیچگاه نمی توانند کار انسان را انجام دهند.

نکته دیگری که باید در نظر داشته باشید این است که به باور همه کارشناسان این حوزه هم، هوش مصنوعی نیرومند امکان پذیر نیست. احتمالا اینطور تصور خواهید کرد که چون این حوزه تخصص شان است، همه آنها دوست دارند ایده هایی را در رابطه با این شاخه از هوش مصنوعی ترویج کنند.

برای مثال پروفسور کوین وارویک از دانشگاه ریدینگ که به خاطر تمایلش به کار گذاری قطعه های کوچک در داخل بدنش، گاهی اوقات با نام کاپیتان Cyborg از او یاد می شود یکی از طرفداران این نظریه است در حالی که پروفسور مارک بیشاپ از دانشگاه Goldsmith لندن که زمانی شاگرد آقای وارویک بوده است چنین تصوری ندراد و با ایده هوش مصنوعی نیرومند مخالفت می کند؛ دو متخصصی که با هم کار کرده اند اما ایده های مختلفی در رابطه با هوش مصنوعی دارند.

خوشبختانه تاکنون شواهدی که دال بر محتمل بودن هوش مصنوعی نیرومند باشند، ارائه نگردیده اما نوع ضعیف این نبوغ کاملا محتمل است. این هوش به قدرت پردازشی، الگوریتم ها و احتمالا دیگر تکنیک هایی مربوط می شود که هنوز اختراع نشده اند.

آنچه اکنون می بینیم شکل بلوغ نیافته ای از هوش مصنوعی ضعیف است. البته بشر از مزایای پیشرفت های اولیه ای که در این حوزه به دست می آید بهره مند می شود اما این ایده که یک کامپیوتر بتواند روزی به موجودی دارای درک بدل شود کمی دور از ذهن به نظر می رسد.

چون انسان ها دارای هوشیاری هستند و آنطور که Sir Roger Penrose می گوید هوشیاری هم قابل محاسبه نیست، پس چرا انسان باید چنین خصیصه ای داشته باشد؟ Penrose تلاش می کند که این مساله را با استفاده از مکانیک کوآنتومی توضیح دهد. با این همه، احتمال دیگری هم وجود دارد. اگر ما صرفا ماشین های بیولوژیکی نباشیم چه؟ اگر بشر فراتر از چیزی باشد که تصورش می رود چطور؟

نتیجه گیری

بزرگ ترین فرضیه ای که از سوی معتقدان به هوش مصنوعی قوی وجود دارد این است که می توان ذهن انسان را در یک برنامه کامپیوتری بازتولید کرد اما اگر بشر چیزی بیش تر از بدن و مغزی باشد که در راس آن قرار دارد، اگر ذهن، حاصل بیولوژی و چیز دیگری باشد، آنگاه هوش مصنوعی هیچگاه محتمل نخواهد بود.

پیشتر گفته شد که رشد هوش مصنوعی ضعیف سرعت رشد بالایی پیدا خواهد کرد. در جریان کنفرانس Google I/O 2015 این غول جستجو حتی بخشی از نطق اصلی خود را به شبکه های عصبی اختصاص داده بود.

این هوش های مصنوعی ضعیف هم اکنون در موتور جستجوی گوگل، جیمیل و سرویس عکس آن مورد استفاده قرار می گیرند و همچون اغلب تکنولوژی ها، پیشرفت در این حوزه هم عاقبت روزی سرعت می گیرد و هر گام تازه بر پایه تلاش هایی برداشته می شود که پیشتر صورت گرفته.

در نهایت استفاده از سرویس هایی نظیر Google Now، سیری و کورتانا (به خاطر توانایی شان در پردازش زبان طبیعی) بسیار ساده می شود و روزی فرا خواهد رسید که نگاه به گذشته و مراحل ابتدایی شکل گیری این هوش ما را متعجب خواهد کرد.