نگاهی به چیستی کمیته اخلاقی هوش مصنوعی گوگل بعد از خریداری استارتاپ DeepMind

کمیته اخلاقی هوش مصنوعی گوگل در سال 2014 و درست زمانی ایجاد شد که این شرکت اقدام به خرید استارتاپ لندنی DeepMind (فعال در این حوزه) کرد و هنوز هم که هنوز است مشخص نشده اعضای این کمیته چه کسانی هستند.

گوگل این هیئت را به درخواست شرکت DeepMind و بعد از آن ایجاد نمود که بنیانگذاران این استارتاپ 400 میلیون پوندی اعلام کردند تنها در صورتی قرارداد فروش را امضا خواهند کرد که گوگل به اصول اخلاقی مربوط به این فناوری پایبند باشد.

بیزنس اینسایدر البته بارها از گوگل در مورد اعضای این هیئت اخلاقی و وظایف آن سوال کرده که با بی اعتنایی شرکت مورد بحث برای پاسخ گویی روبرو شده است.

با این همه، تعدادی از کارشناسان حوزه هوش مصنوعی به بیزنس اینسایدر گفتند که با در نظر داشتن اثرات احتمالا این فناوری روی زندگی آینده انسان، ضروری است که هر گونه مناقشه در این رابطه به صورت کاملا علنی انجام گیرد.

بد نیست بدانید که طبق تعریف ارائه شده توسط ناتان بنایچ سرمایه گذار شرکت Playfair Capital، هوش مصنوعی به ساخت آن دسته از سیستم های کامپیوتری مربوط می شود که می توانند درک کنند و از مشاهدات خود درس بگیرند بدون آنکه نیازی به برنامه ریزی شدن برای این منظور داشته باشند.

هدف این سیستم ها آن است که کارکردهای شناختی انسانی را از خود بروز دهند و خروجی آنها نیز از طریق داده هایی که مرتبا به دست آورند بهینه سازی شده باشد.

در حال خاضر DeepMind شناخته شده ترین شرکت فعال دنیا در زمینه هوش مصنوعی است و اگر خاطرتان باشد هفته پیش زمانی که هوش مصنوعی AlphaGo آن توانست قهرمان جهانی بازی چینی بسیار دشوار Go را شکست دهد تاریخ ساز شد.

برخی از پیشروان مطرح حوزه تکنولوژی و دانشمندان هوش مصنوعی از بابت آینده تکنولوژی های در دست توسعه دیپ مایند و شرکت هایی مانند آن ابراز نگرانی کرده اند.

حالا DeepMind می خواهد الگوریتم های خود را در حوزه های دیگر نیز به خدمت بگیرد که از آن جمله می توان به بهداشت و درمان و علوم رباتیک اشاره کرد.

با این همه، برخی از پیشروان مطرح حوزه تکنولوژی و دانشمندان این زمینه از بابت آینده تکنولوژی های در دست توسعه دیپ مایند و شرکت هایی مانند آنن ابراز نگرانی کرده اند.

طبق گفته ایلان ماسک مدیرعامل شرکت های تسلا و اسپیس اکس و همچنین سرمایه گذار عمده PayPal که به خاطر ترس و وحشتش از قدرت گرفتن ماشین ها در شرکت DeepMind هم سرمایه گذاری کرده است، هوش مصنوعی کامل (Full AI) یا ماشین هوشیاری که خودآگاهی دارد می تواند بیش از هر چیز دیگری خطرناک باشد.

بیل گیتس از بنیانگذاران مایکروسافت نیز اصرار دارد که هوش مصنوعی نوعی تهدید علیه بشریت است و استیون هاوکینگ دانشمند مشهور جهانی نیز پیشتر اظهار نمود که هوش مصنوعی می تواند پایانی بر نسل بشریت باشد.

دمیس حسابیس بنیانگذار و مدیرعامل شرکت DeepMind نیز در جریان کنفرانس های متعدد تایید کرده است که هیئت اخلاقی هوش مصنوعی گوگل واقعا وجود دارد.

اما نه حسابیس و نه گوگل تاکنون حرفی در مورد شخصیت های حاضر در این کمیته به میان نیاورده اند و هیچگونه جزئیاتی را هم در رابطه با فعالیت های این کمیته مطرح نکرده اند.

عظیم ازهر از کارآفرینان حوزه تکنولوژی، مشاور استارتاپ و مولف خبرنامه Exponentialk View در این باره به سایت بیزنس اینسایدر گفت: بحث در مورد اصول اخلاقی هوش مصنوعی بسیار اهمیت دارد.

رسانه ها و مجامع علمی و دانشگاهی نیز برای اطلاع از اینکه چه افرادی در کمیته اخلاقی هوش مصنوعی آن حضور دارند بارها و بارها از دیپ مایند و گوگل درخواست کردند که در این باره اعلام نظر کنند و از این طریق مناقشات علنی شان را در مورد آینده این تکنولوژی برگزار نمایند اما همانطور که گفته شد، تا به حال هیچیک از این دو شرکت در باره حرفی به میان نیاورده اند.

در هر حال به صورت عمومی این اتفاق نظر وجود دارد که هیئت اخلاقی هوش مصنوعی گوگل کمیته خوبی است اما افرادی نظیر ایوان اسلینگر استاد فلسفه موسسه اخلاق شناسی و تکنولوژیهای نوظهور بارها و بارها از گوگل درخواست کرده اند که جزئیات بیشتری را در مورد کمیته مذکور و فعالیت هایش مطرح نماید.

اسلینگر بر این باور  است که مناقشه در مورد آینده هوش مصنوعی نباید تنها توسط یک شرکت آن هم پشت درهای بسته صورت بگیرد. به اعتقاد وی، افرادی خارج از این دو شرکت بهتر می توانند در این باره تصمیم گیری نمایند زیرا دیگر نگران از دست دادن مشاغل خود نخواهند بود و امکان تطمیع شدنشان هم وجود ندارد.

به گفته اسلینگر شرکت های فعال در حوزه تکنولوژی، دولت ها  عموم مردم باید صحبت در مورد اصول اخلاقی مرتبط با هوش مصنوعی را بنابر دو دلیل آغاز نمایند؛ اگر انسان ساخت ماشین های ابر هوشمند خود-بهبود دهنده را با موفقی به اتمام برساند، چه می شود و این اتفاق چه زمانی رخ خواهد داد؟ او در ادامه اعلام نمود که باید نوعی چهارچوب در صورت تحقق این سناریو وجود داشته باشند.

نیک باستروم مدیر موسسه آینده بشریت در دانشگاه آکسفورد احتمالا اصلی ترین حامی ماشین های ابر هوشمند است. او در کتاب خود با عنوان هوش فوق العاده یا Superintelligence می گوید: اگر در آینده ماشینی ساخته شود که به لحاظ هوش و نبوغ انسان را پشت سر بگذارد آن ماشین بی نهایت قدرتمند خواهد بود و می تواند آینده انسان را شکل داده و تصمیم بگیرد آیا انسان به حیات خود روی این سیاره خاکی ادامه دهد یا خیر. او ادامه می دهد: بشر صرفا باید شرایط اولیه را به شیوه صحیح فراهم نماید تا به نوعی باعث دوستی میان خود و ماشین شود.

شین لگ مدیر واحد تحقیقات و از بنیانگذاران شرکت دیپ مایند نیز تا پیش از خریده شدن این استارتاپ توسط گوگل تاکید داشت که اگر هوش مصنوعی به شیوه صحیح توسعه داده نشود یا اینکه به شکل غلط به کار رود می تواند موجبات نگرانی انسان را به وجود آورد.

او در جریان مصاحبه ای که در سال 2011 میلادی در این باره انجام داد اظهار نمود: من معتقدم که انقراض بشر در نهایت اتفاق می افتد و تکنولوژی نیز نقشی در وقوع این رویداد خواهد داشت. لگ در میان انبوه فناوری هایی که ممکن است روزی منجر به انقراض انسان شوند، هوض مصنوعی را به عنوان ریسک شماره یک قرن حاضر بر می شمارد.

دلیل دوم ازهر برای افزایش نظارت بر اصول اخلاقی هوش مصنوعی به نقش فزاینده هوش های مصنوعی در ارائه اطلاعات به انسان مربوط می شود. او می گوید: آنها [هوش های مصنوعی] اطلاعاتی که دراختیار انسان قرار دارند را محدود کرده یا تحت تاثیر قرار می دهند که به باور من این امر می تواند پیامدهای اخلاقی قابل تاملی را به دنبال داشته باشد.

ازهر در عین حال که تصمیم گوگل برای ایجاد کمیته اخلاقی هوش مصنوعی را می ستاید تاکید می کند که ایجاد قانون برای رفتار ماشین ها کار ساده ای نیست و درهمین رابطه می گوید: این کار پیچیده است چون ما به عنوان یک گروه انسانی روی آن اتفاق نظر نداریم و لازم است که مجموعه ای از گفتگوها را با همراهی تعدادی از مردم در این باره انجام دهیم.

دیپ مایند سعی در فاش نمودن اعضای هیئت دارد

سال گذشته مصطفی سلیمان یکی از بنیانگذاران شرکت دیپ مایند اعلام کرد که قصد دارد نام افرادی که در این هیئت حضور دارند را منتشر نماید. او که در کنفرانسی با موضوعیت هوش مصنوعی در دفتر لندن بلومبرگ سخنرانی می کرد اعلام نمود: ما اسامی را منتشر خواهیم کرد اما این لیست همه افراد را در بر نمی گیرد و لیست نهایی هم نیست. که البته چنین اتفاقی تا الان رخ نداده است.

او اظهار داشت که گوگل مشغول تشکیل دادن تیمی از دانشگاهیان، محققان سیاست، اقتصاد دانان، اساتید فلسفه و حقوق دانان است تا مسائل اخلاقی پیش روی هوش مصنوعی را کنار بزند اما در حال حاضر تنها سه یا چهار نفر این افراد روی چنین موضوعی تمرکز نموده اند.

در جریان این کنفرانس یکی از حاضران از آقای سلیمان سوال کرد که گوگل با استناد به کدام حق می تواند اعضای هیئت اخلاقی را بدون هیچگونه نظارت بیرونی تعیین نماید و در پاسخ اینطور گفته شد: این همان چیزی است که من به لری پیج (بنیانگذار گوگل) گوشزد کردم. من کاملا با شما موافقم. به لحاظ بنیادی ما یک شرکت باقی می مانیم و معتقدم این سوالی است که در ذهن بسیاری شکل می گیرد. ما کاملا مطلع هستیم که این کار پیچیدگی های زیادی دارد و به هیچ وجه قصد نداریم که چنین کاری را در خلاء و به تنهایی انجام دهیم.

بنیاچ هم معتقد است که دیپ مایند از آن جهت گوگل را موظف به تشکیل این کمیته کرده که باور دارد تکنولوژی نباید به طرقی که به انسان آسیب بزند مورد استفاده قرار بگیرد.

او در ادامه گفت که رشته هوش مصنوعی از اواخر دهه 50 میلادی که تحقیقات در این باره آغاز شد، شاهد پیشرفت های قابل توجهی بوده است. در واقع ابررایانه واتسون و دیپ بلو محصول آی بی ام، دستیارهای دیجیتالی نظیر سیری، سیستم های قدرتمند تشخیص کلام و تصویر، خودروهای بدون سرنشین و اخیرا هم ALphaGo به روشنی پتانسیل های هوش مصنوعی را در زندگی ما نشان میدهند و شاید همین پیشرفت ها بوده اند که حس کنجکاوی و تردید از آینده را در ما ایجاد کرده اند.

او در ادامه می گوید: هرچه تمرکز این رشته روی درک و ایجاد سیستم های عمومی دارای قوه یادگیری بیشتر می شود (منظور تمرکز روی ساخت سیستم هایی که توانایی انجام تسک های خاصی را دارند)، ضرورت پیش بینی پیامدهای تولید این سیستم ها نیز بیشتر می گردد.

من از بحث علمی و منطقی با صاحب نظران حوزه فناوری استقبال می کنم البته به شرطی که این کار مانع از پیشرفت در این حوزه نشود و معتقدم که هنوز تا قدرت یافتن کامل ماشین ها و انقراض نسل بشر به دست آنها مدت زمان زیادی باقی است.

شرکت Lucid.AI اسامی اعضای کمیته اخلاقی خود را منتشر کرده است

دیگر استارتاپ های فعال در زمینه هوش مصنوعی اما اخیرا هیئت های اخلاقی خود را ایجاد کرده اند و حتی نام اعضای آنها را نیز منتشر نموده اند. برای مثال شرکتی به نام Lucid.AI که دفتر اصلی اش در تگزاس قرار دارد اخیرا اعلام کرده که پروفسور مکس تگمارک در رشته فیزیک MIT و موری شاناهان پروفسور کالج سلطنتی لندن در میان شش عضو این هیئت هستند.

Lucid.AI با توضیح وظایف این کمیته روی وبسایت خود اینطور آورده است: هرگامی که در جهت پیشرفت هوش مصنوعی انجام می شود گامی به سمت سرزمین های نامعلوم است. به همین خاطر است که ما خود را مجبور به جواب دادن به سوالاتی کردیم که پاسخگویی به آنها ابدا ساده نیست و باعث شکل گیری چیزی شدیم که تا کنون هیچیک از شرکت های دست اندر کار حوزه هوش مصنوعی به آن توجه نکرده بودند و آن ایجاد کمیته مشورتی اخلاقی هوش مصنوعی است. به این ترتیب هر زمان محصولی را تولید می کنیم صرفا از خود نمی پرسیم که آیا برای مشتریانمان خوب است یا خیر و در کنار این موضوع سودمندی آن محصول برای بشریت را نیز مورد سنجش قرار می دهیم.