نگاهی به پروژه جنجالی ایلان ماسک برای عرضه رایگان هوش مصنوعی به بشریت؛ OpenAI چه ماموریتی دارد؟

در کشورهایی که به جای پنجشنبه و جمعه روزهای شنبه و یکشنبه تعطیل است، سیاستمداران و سرمایه داران معمولا خبرهای بدشان را در بعد از ظهر روزهای جمعه منتشر می کنند تا مورد موشکافی رسانه ها قرار نگیرند. ایلان ماسک مدیرعامل و بنیانگذار تسلا و سم آلتمن رئیس هیئت مدیره شرکت Y Combinator که در زمینه فناوری فعالیت می کنند هم دست بر قضا در همین روز خبر راه اندازی کسب و کار تازه شان در زمینه هوش مصنوعی را به مخاطبان خود در کنفرانس AI مونترال دادند. از همین رو، مشخص نیست که آیا باید این اتفاق را به فال نیک گرفت یا اینکه نگران پیامدهای بد آن بود.

جدای از نکته، اعلام خبر راه اندازی شرکت OpenAI در بعد از ظهر روز جمعه تنها یک دلیل داشت: هدف این دو کارآفرین در اصل، نه منحرف نمودن اذهان بلکه این بود که بسیاری چشم به آن کنفرانس و دستاوردهایش دوخته بودند. وقتی برخی از قدرتمندترین نام های سیلیکون ولی از این پروژه با خبر شدند، گروه گروه برای سرمایه گذاری، به سمت آن هجوم آوردند و هدفشان هم در واقع این بود که متفکران و پژوهشگران به خدمت گرفته شده در این شرکت را به نوعی زیر بیرق خود ببرند.

جالب است بدانید پیشنهادات لحظه آخری که ماسک و آلتمن (حتی در جریان کنفرانس) دریافت کردند آنقدر زیاد بود که آنها را وادار کرد اعلام خبر راه اندازی استارتاپ OpenAI را اندکی به تعویق بیاندازند.Wojciech Zaremba یکی از محققانی که بعد از کارآموزی در گوگل و فیسبوک به شرکت تازه تاسیس یاد شده پیوست و در پایانی ترین ساعت برگزاری کنفرانس پیشنهادات مالی هنگفتی را از سوی شرکت های ساکن سیلیکون ولی دریافت کرد، در اینباره گفت: حجم پول های پیشنهادی دیوانه کننده بود.

البته باید دید از نظر این دانشمند چه مقدار پول دیوانه کننده است؟ دو سال پیش که بازار تکنولوژی یادگیری ماشینی تازه در حال گرم شدن بود، پیتر لی، معاون واحد تحقیقات مایکروسافت اظهار داشت که هزینه استخدام یک پژوهشگر تراز اول در زمینه هوش مصنوعی با هزینه جذب بازیکن در لیگ دسته اول فوتبال آمریکا برابری می کند و البته برآوردهای صورت گرفته توسط او در شرایط عادی بود نه زمانی که دو کارآفرین مطرح در سیلیکون ولی با هم دست همکاری می دهند و مصمم می شوند که به بالاترین جایگاه در زمینه هوش مصنوعی برسند. Zaremba می گوید در زمانی که شرکت OpenAI در حال تشکیل شدن بود، دو تا سه برابر عرف دستمزد بازار به او پیشنهاد شده است.

البته رقم پیشنهادی از سوی این استارتاپ با آن پیشنهادات برابری نمی کرده اما در مقابل پیشنهاد دیگری برای این دانشمندان داشته است: شانس انجام تحقیقاتی که صرفا روی آینده تمرکز دارند (نه تولید محصولات و درآمدهای فصلی) و در نهایت تقسیم و اشتراک گذاری یافته هایش با دیگران.

ماسک و آلتمن می خواهند چیزی را به رایگان در اختیار عموم بگذارند که ممکن است به تکنولوژی متحول کننده قرن 21 بدل شود.

درست است: ماسک و آلتمن می خواهند چیزی را به رایگان در اختیار عموم بگذارند که ممکن است به تکنولوژی متحول کننده قرن 21 بدل شود.

Zaremba می گوید با وجود تمام احترامی که برای فیسبوک و گوگل قائل است، به هیچ وجه از پیشنهادات دریافتی دل خوشی ندارد زیرا معتقد است آن پیشنهادات دست کم با هدف جلوگیری از ایجاد OpenAI به او داده شده اند و حتی برعکس، بیشتر او را برای همکاری با این شرکت ترغیب کرده اند. او در ادامه گفت: من به این نتیجه رسیدم که OpenAI  بهترین مکان برای کار کردن من است.

در اینجا نوعی تناقض رخ می دهد: یعنی با وجود آنکه بزرگ ترین شرکت های حوزه تکنولوژی تمام تلاش خود را به خدمت می گیرند تا پژوهشگران شان را همانند بازیکنان فوتبال در تیم خود نگه دارند، خود دانشمندان علاقمند و راغب به اشتراک گذاری اطلاعاتش است.

در تحقیقات پیرامون هوش مصنوعی که البته به وفور هم رخ نمی دهد، ذهن های خلاق و دارای فکر برای تولید محصول یا رسیدن به حاشیه سود بالاتر کار نمی کنند یا دست کم این تنها هدفشان نیست. آنها تلاش می کنند که هوش مصنوعی را به بهترین جایگاهش برسانند و رسیدن به این درجه در صورتی محقق می شود که شما یافته هایتان را صرفا برای خودتان نگه ندارید.

چندی پیش OpenAI نخستین مجموعه نرم افزارهای هوش مصنوعی خود را ارائه نمود؛ نوعی تول کیت برای ایجاد سیستم های هوشمند از طریق تکنولوژی خاصی که «یادگیری تقویت شده» خوانده می شود و یکی از کلیدی ترین فناوری هایی است که به خلق AlphaGo منتهی شد (همان هوش مصنوعی گوگل که توانست قهرمان جهانی بازی چینی Go را شکست دهد). به لطف این تول کیت می توان سیستم هایی را ایجاد کرد که رسته تازه ای از ربات ها را شبیه سازی می کنند، پای بازی های آتاری می نشینند و به درجه استادی در بازی Go می رسند.

اما بازی کردن تنها ابتدای راه است. OpenAI تلاشی چند میلیارد دلاری است که در جهت وارد نمودن هوش مصنوعی به مرزهای تازه آغاز شده. هم نحوه شکل گیری این شرکت و هم طرح ها و نقشه های آن برای آینده به خوبی نشان می دهند که به لطف آن، موج بعدی نوآوری در راه است.

البته هنوز مشخص نیست که آیا این شرکت به بازیگر اصلی و عامل نهایی تغییر بدل خواهد شد یا خیر اما تلاش های صورت گرفته در جهت شکل گیری این استارتاپِ بیش از اندازه غیرمرسوم نشان از آن دارند که نتنها تکنولوژی به واسطه نسل تازه ای از هوش مصنوعی بازسازی می گردد بلکه نحوه ایجاد فناوری نیز دستخوش تغییر می گردد.

هوش مصنوعی در همه جا

سیلیکون ولی هیچگاه مخالفت جدی با اغراق و بزرگنمایی نداشته و سر عناد با آن ندارد بلکه همواره تلاش می کند رویکردی خردمندانه و معقول در قبال اینگونه ادعاها داشته باشد و با اندکی تردید نسبت به آنها بنگرد. اما در زمینه هوش مصنوعی، چالش واقعی است. در دل شرکت هایی نظیر گوگل و فیسبوک، تکنولوژی تازه ای به نام یادگیری عمیق یا سلسله مراتبی وجود دارد که به سرویس های اینترنتی امکان می دهد چهره افراد را در تصاویر شناسایی کنند، فرامین صوتی ارائه شده به اسمارت فون ها را دریافت کنند و به سرچ های اینترنتی پاسخ دهند و خوشبختانه این فناوری در آینده کارهایی به مراتب بیشتر از این را انجام می دهد.

یادگیری عمیق می تواند به ماشین ها زبان طبیعی انسان را بیاموزد (منظور همان روش طبیعی است که انسان ها با یکدیگر حرف می زنند و مطلب می نویسند)، قادر است نسل تازه ای از ربات ها را به وجود آورد و به ماشین ها انجام امور مختلف را بیاموزد و بگوید که چطور در لحظه چیزی را یاد بگیرند. و برخی بر این باورند که فناوری یاد شده عاقبت می تواند چیزی شبیه به عقل سلیم را به ماشین ها ببخشد؛ همان توانایی تفکر صحیح که در انسان ها یافت می گردد.

اما در کنار این وعده های بزرگ، نوعی ترس و دلهره هم دیده می شود. ماسک و آلتمن نگرانند که مردم انجام کارهای بزرگ را به ماشین ها بیاموزند و سپس نوعی از هوش مصنوعی ایجاد شود که قادر است کارهایی وحشتناک را به انجام برساند. البته تنها این دو نفر نیستند که چنین ترس هایی را در وجود خود دارند اما تفکری تقریبا نادر دارند و آن اینکه: بهترین راه برای جلوگیری و مبارزه با هوش مصنوعی مخرب نه محدود نمودنش که بسط و توسعه آن است. همین دیدگاه و چشم انداز است که به جذب تیمی از ایده پردازان جوان و بسیار باهوش در پروژه آنها منتهی شده است.

بهترین راه برای جلوگیری و مبارزه با هوش مصنوعی مخرب نه محدود نمودنش که بسط و توسعه آن است

OpenAI  تابستان سال گذشته و در یکی از اتاق های هتل Rosewood سیلیکون ولی متولد شد. در آن روز، ایلان ماسک دیداری با ایلیا ساتسکور داشت که در آن زمان در واحد Google Brain کار می کرد (بخشی که در زمینه ایجاد شبکه های عصبی عمیق فعالیت می کرد) و شامش را با او صرف کرده بود. در باب شبکه های عصبی عمیق هم باید بگوییم سیستم هایی هستند که می توانند با تحلیل حجم بالایی از داده های دیجیتالی انجام امور مختلفی نظیر تشخیص عکس یا نوشتن ایمیل و ادامه یک گفتگو را فرا بگیرند. ساتسکور یکی از اصلی ترین متفکران پروژه Google Brain به شمار می رفت و پذیرفت که همکاری اش با OpenAI را آغاز نماید.
از آن سو سم آلتمن که با مرکز رشد خود به نام وای کامبینیتور توانسته بود به شرکت هایی نظیر Airbnb، دراپ باکس و کوین بیس موجودیت بدهد قدم به این نشست گذاشت و تعدادی از دانشمندان حوزه هوش مصنوعی و البته گِرِگ بروکمن را با خود به همراه آورد، فردی جوان اما با تجربیات موفق که پیشتر در سمت مدیر واحد تکنولوژی یک استارتاپ پرداخت دیجیتالی به نام Stripe (یکی دیگر از شرکت های راه اندازی شده توسط وای کامبینیتور) فعالیت کره بود.

شاید فعالیت کلی این شرکت ها و افراد با هم فرق می داشت اما همه آنها در نهایت یک هدف داشتند: ایجاد نسل جدیدی از آزمایشگاه های فعال در زمینه هوش مصنوعی. آزمایشگاهی که هم خارج از کنترل گوگل فعالیت کند و هم اینکه تحت سلطه و نظارت هیچ موجودیت دیگری نباشد.

اما ماسک در آن جلسه حضور داشت چون هم دوست قدیمی آلتمن بود و هم اینکه هوش مصنوعی نقشی به سزا در آینده کسب و کارهای مختلف او ایفا می کند. تسلا برای ماشین های خودران خود به این فناوری نیاز دارد و اسپیس اکس، دیگر شرکت تحت مدیریت او، برای انتقال انسان به فضا و زنده نگه داشتنش در آن محیط به هوش مصنوعی محتاج است. ماسک در عین حال یکی از بزرگ ترین منتقدان هوش مصنوعی است که بارها و بارها هشدار داده، روزی کنترل سیستم های هوشمند از دست انسان خارج می گردد و آنها به اندازه ای قدرتمند می شوند که می توانند به خودی خود یاد بگیرند.

مشکل  اینجا بود: شمار زیادی از افراد دارای صلاحیت در این زمینه که می توانستند مشکلات یاد شده توسط ماسک را مرتفع نمایند برای گوگل کار می کردند (و البته فیسبوک، مایکروسافت، بیدو و توئیتر).

در جریان مراسم شام نیز هیچکس مطمئن نبود که متفکران و صاحب نظران دعوت شده، به ترک شغل خود و همکاری با یک استارتاپ نوپا تن بدهند، حتی با در نظر داشتن این نکته که ماسک و آلتمن پشت چنین ایده ای بودند. اما یکی از آن شخصیت های کلیدی از تصمیم خود برای ملحق شدن به OpenAI مطمئن بود و آن فرد کسی نیست جز ساتسکور که در این باره گفت: من از این تصمیم به نوعی احساس خطر می کردم و همزمان مطمئن بودم کار جالبی است.

سنت شکنی آغاز می شود!

بروکمن که در جریان آن جلسه سخت تحت تاثیر حرف های ماسک، آلتمن و باقی حاضران قرار گرفته بود موافقت خود را با راه اندازی آن شرکت اعلام داشت و در ادامه به صورت تمام قت در این پروژه مشغول به کار شد. او برای آنکه تیم خود را بزرگ تر کند با یوشا بنجیو یکی از دانشمندان دانشگاه مونترال وارد همکاری شد که از بنیانگذاران جنبش یادگیری عمیق هم محسوب می شود. Geoff Hinton و Yann LeCun دو تن دیگر از بزرگان این حوزه هستند که به ترتیب در گوگل و فیسبوک مشغول به کارند اما شخص بنجیو بیشتر تمایل دارد در محیط های آکادمیک فعالیت داشته باشد و از صنعت و تجارت به دور باشد.

از همین رو، بنجیو لیستی از اساتید و صاحب نام های این حوزه را در اختیار بروکمن قرار داد تا با آنها وارد مذاکره شود و خوشبختانه بروکمن هم توانست ظرف تنها یک هفته با اغلب آنها دیدار کند.

بسیار دانشمندانی که بروکمن با آنها وارد گفتگو شد این ایده را دوست داشتند اما از خطر کردن می ترسیدند. بنیانگذار OpenAI در ادامه ده نفر از افرادی که بیشتر از همه تمایل به همکاری با آنها داشت را انتخاب نمود و آنها را برای معارفه و آشنایی بیشتر با پروژه به جلسه ای دوستانه دعوت کرد و در پایان جلسه از محققان منتخب خود درخواست کرد که به آزمایشگاه او بپیوندند و برای تصمیم گیری سه هفته زمان در اختیارشان قرار داد.

در پایان موعد مقرر 9 نفر  از این افراد آمادگی خود برای همکاری با OpenAI را اعلام نموده و حتی پیشنهادات مالی هنگفتی که از سوی دیگر شرکت های فعال در سیلیکون ولیدریافت کرده بودند هم نتوانست آنها را از هدفشان منصرف نماید. ساتسکور که پیشتر برای گوگل کار می کرده می گوید: آنها خیلی تلاش کردند که مرا نگه دارند و تصمیم گیری در این باره ابدا کار ساده ای نبود. اما در پایان تصمیم گرفتم که با OpenAI همکاری کنم، در ابتدا به خاطر اشخاص معتبر و شناخته شده ای که در آن گروه حاضر بودند و در وهله دوم به خاطر ماموریت آن.

به این ترتیب، جنبش یادگیری عمیق با اهالی دانشگاه آغاز شد. از آن سو، با تحقق شبکه های عصبی عمیق، شرکت هایی نظیر گوگل، فیسبوک و مایکروسافت نیز مدتی بود که به این حوزه ورود کرده بودند.. افرادی نظیر Hinton و LeCun مراکز دانشگاهی را ترک کردند تا از منابع عظیم شرکت هایی نظیر گوگل و فیسبوک بهره مند شوند.

البته این اشخاص همچنان علاقمند هستند که همکاری شان با متفکران این حوزه را حفظ کنند. LeCun  در توضیح این تمایل می گوید، تحقیقات در زمینه یادگیری عمیق نیازمند جریان آزاد ایده هاست و وقتی بخواهید در خفا و به صورت پنهانی تحقیق کنید از دیگران عقب می افتید. به همین خاطر است که حالا شرکت های بزرگ بخش عظیمی از تحقیقات خود در زمینه هوش مصنوعی را با هم به اشتراک می گذارند و این تغییر بسیار بزرگی برای آنها و خصوصا گوگل محسوب می شود.

محدودیت های مرزهای باز هوش مصنوعی

این باز بودن هوش مصنوعی و اشتراک گذاری دستاوردهایش ایده بسیار خوبی است اما بعید نیست روزی که در آن دانشمندان OpenAI نیز با همان محدودیت هایی روبرو شوند که پیشتر در شرکت های قبلی وجود داشت.

باز بودن و علنی بودن هم محدودیت های خود را دارد و چشم انداز بلند مدت برای هوش مصنوعی تنها موضوعی نیست که در این میانه اهمیت می یابد.OpenAI یک سازمان خیریه نیست. شرکت های تحت مدیریت ماسک احتمالا بالاترین بهره را از دستاوردهای این استارتاپ خواهند داشت و وای کامبینیتور و شرکت های تحت سرپرستی اش هم همین گونه اند.

LeCun می گوید قطعا اهداف دیگری هم وجود دارند که با ایده آل های OpenAI رد تناقض باشند. این آزمایشگاه یک نهاد غیرانتفاعی است اما از سویی هم به وای کامبینیتور می رسد و آدم هایی هم که در آن مشغولند درست مانند آنها که در صنعت فعالیت دارند پول دریافت می کنند.

آنطور که بروکمن گفته، حقوقی که دانشمندان و پژوهشگران این استارتاپ دریافت می کنند با رقم های نجومی پیشنهادی از سوی شرکت هایی نظیر گوگل یا فیسبوک برابری نمی کند اما این آزمایشگاه «پرداختی خوبی» را برای آنها درنظر گرفته و اعلام کرده که در عوض پیشنهادات بزرگی که رد کرده اند، مقداری سهام به آنها بدهد (اول در وای کامبینیتور و سپس اسپیس اکس).

بروکمن همچنین خاطر نشان کرده که OpenAI قرار نیست امتیازات خاصی را در اختیار شرکت های خواهرش قرار دهد و در عوض یک موجودیت تحقیقاتی است نه مشاوره ای. با این همه، او تایید کرد که چشم اندازه ایدآل گرای این آزمایشگاه نیز محدودیت های خود را دارد. این شرکت احتمالا همه محصولاتش را به صورت اپن سورس در نمی آورد  اما بخش اعظمی از تحقیقاتش را یا از طریق مقاله و یا سرویس های اینترنتی با دیگران به اشتراک می گذارد.

ساتسکور و بروکمن همچنین خاطر نشان کردند که بخش اعظمی از کارهای صورت گرفته توسط OpenAI به صورت متن باز در خواهد آمد. آنها تاکید کردند که چنین اتفاقی در آینده نزدیک رخ نمی دهد اما احتمال بروز تغییر در تاکتیک ها و سیاست های کاری در هر زمانی وجود دارد.

مشکل ابر هوش

وقتی ماسک و آلتمن OpenAI را راه اندازی کردند این پروژه را راهی برای خنثی سازی تهدیدات ناشی از ابرهوش مصنوعی مخرب قلمداد نمودند. البته چنین هوشی ممکن است که از تلاش های صورت گرفته توسط استارتاپ راه اندازی شده شان سر در بیاورد اما آنها اصرار دارند که هرگونه تهدیدی با راه اندازی OpenAI کم می شود زیرا تکنولوژی های ارائه شده توسط آن برای هر کسی مفید خواهند بود.

آلتمن در این باره گفت: ما باور داریم اینکه هوش های مصنوعی در جهت متوقف کردن بازیگران و موجودیت های بد برآیند بسیار محتمل تر است. اما همه هم طرفدار ایده اشتراک گذاری دستاوردهای این حوزه نیستند. نیک باستروم فیلسوف دانشگاه آکسفورد که مانند ماسک نسبت به خطرات هوش مصنوعی هشدارهایی داده است به این نکته اشاره نموده که اگر بدون محدودیت حاصل تحقیقات خود را در اختیار همه قرار دهید، بازیگران بد ممکن است به آنها دسترسی پیدا کرده و در جهت اهداف شوم خود آنها را به خدمت بگیرند. او از سویی هم هشدار می دهد که اگر OpenAI تکنولوژی و دستاوردهایش را برای خود نگه دارد آنگاه تفاوتی با گوگل ، فیسبوک و نام هایی مانند اینها ندارد. وی در ادامه می گوید: ماهیت غیرانتفاعی این شرکت می تواند اوضاع را تغییر دهد و قدرت واقعی اش در آن است که می تواند به معیاری برای سنجش گوگل و فیسبوک بدل شود و از تک قطبی شدن هوش مصنوعی جلوگیری نماید.

OpenAI تداعی کننده PARC

بروکمن اعلام کرده که OpenAI کار خود را با تحقیق در مورد یادگیری تقویت شده آغاز می کند؛ روشی که در آن، ماشین ها با تکرار چندین باره امور و تشخیص روشی که بهترین نتیجه را به بار می دهد، انجام فعالیت های مختلف را یاد می گیرند. هدف اولیه دیگر اما «یادگیری نظارت نشده» نام دارد؛ ایجاد ماشین هایی که می توانند به خودی خود یاد بگیرند بدون آنکه برای این منظور به نظارت انسان نیاز داشته باشند.

امروز یادگیری عمیق به واسطه داده هایی محقق می شود که با دقت برچسب گذاری شده اند. به این ترتیب اگر بخواهید به یک شبکه عصبی یاد دهید که عکس گربه های مختلف را تشخیص دهد، باید به اندازه کافی نمونه و مثال را در اختیارش گذاشته باشید. و آن نمونه ها باید تحت عنوان عکس گربه برچسب گذاری شده باشند.

در واقع این شیوه یادگیری تحت نظارت انسانی است که کار برچسب گذاری داده ها را بر عهده داشته است. اما درست مانند بسیاری محققان دیگر، هدف OpenAI ایجاد شبکه های عصبی است که بتوانند بدون داده های برچسب گذاری شده نیز یاد بگیرند. بروکمن می گوید اگر یادگیری نظارت نشده به سطح خوبی برسد آنگاه ماشین ها میتوانند درست مانند انسان وبگردی کنند و در مورد موضوعات مدنظرشان خودشان یاد بگیرند.

او از این بابت OpenAI را به شرکت PARC (زیرشاخه زیراکس) تشبیه کرد که در دهه 1970 میلادی راه اندازی شد. تحقیقات این شرکت و حاصل آن به صورت باز در اختیار دیگران قرار داده می شد و مسیر را برای ورود خیلی چیزها هموار کرد، از رابط های کاربری گرافیکی گرفته تا پرینترهای لیزری. PARC در اصل به زیراکس تعلق داشت اما اطلاعات و یافته هایش در اختیار خیلی از شرکت ها از جمله اپل قرار گرفت زیرا جابز مرحوم ارتباط نزدیکی با واحد تحقیقات این شرکت داشت.

حالا بروکمن، آلتمن و ماسک مصمم هستند تا با جذب دانشمندان و پژوهشگران بیشتر در این حوزه هدفی مانند زیراکس و شرکت تابعه آن را دنبال نمایند.