چت بات نژادپرست مایکروسافت توسط چه کسی توسعه یافته بود؟

انتهای ماه مارس بود؛ صرفا چهار روز پیش از اینکه مدیر عامل مایکروسافت روی صحنه رویداد «بیلد» برود و از «محاوره به عنوان یک پلتفرم» یاد کند. «لیلی چنگ» (Lili Cheng) صبح از خواب برخاست و به سرعت متوجه شد که یکی از چت بات هایش با مشکلات عجیبی رو به رو شده است.

نام آن چت بات، «Tay» بود: یک ربات مبتنی بر هوش مصنوعی که از سوی مایکروسافت در توییتر به کار خود مشغول شده و قرار بود نقش یک دختر ۱۹ ساله آمریکایی را بازی کرده و به لطف هوش مصنوعی اش، با کاربران توییتر به گفتگو بپردازد. کافی بود تا کاربران شبکه اجتماعی توییتر به سراغش رفته و با او صحبت کنند تا به آنها پاسخ بگوید.

اما تنها ۱۶ ساعت پس از عضویت اش در توییتر، تبدیل شده بود به یک نژادپرست تمام عیار. از یک سو رییس جمهور آمریکا را یک میمون می خواند و از سوی دیگر به ستایش هیلتر می پرداخت؛ البته به لطف ترول هایی که این مسائل را به او آموزش داده بودند.

«لیلی چنگ»، مهم ترین شخص در توسعه Tay بود و طبیعتاً روز دومی که این ربات کارش را آغاز کرده بود، یکی از سخت ترین روزهای کاری چنگ هم به شمار می آمد. چنگ مدیر آزمایشگاه «تجربه اجتماعی آینده نگرانه» (FUSE) است؛ همان مکانی که Tay در آن توسعه یافت.

چنگ ۲۰ سال اخیر را به مایکروسافت یاری رسانده تا این شرکت بتواند درک بهتری از محدودیت های کاربری و طراحی رابط کاربری داشته باشد. در این بین، وی خبر می دهد که طی این چند سال، پروژه های بسیاری را برای مایکروسافت به سرانجام رسانده که تقریبا ویژگی های شبیه به هم در آن بسیار اندک بوده است. چنگ می گوید: «همه شان معمولا تجربیاتی اجتماعی، تعاملی، با ریسک بالا و البته مبهم بوده اند، دقیقا مانند Tay.»

معماری که دیوانه کامپیوترها شد

قاعدتاً انتظار دارید شخصی که در مایکروسافت چت باتی توسعه داده که بر بستر هوش مصنوعی می تواند با کاربران با گفتگو بپردازد، و البته مدیریت آزمایشگاه FUSE را بر عهده دارد، دکترای هوش مصنوعی از MIT داشته باشد که البته چنین نیست. چنگ در میانه دهه ۶۰ میلادی در ایالت نبراسکای آمریکا به دنیا می آید. مادری چینی و پدری ژاپنی دارد. در ابتدای کار، به تحصیل در رشته معماری پرداخت و در چند شرکت معتبر این حوزه نیز کار کرد.

در بیست و چند سالگی، هر کسی می توانست بگوید که او آینده ای روشن در زمینه معماری پیش روی خود دارد، تا اینکه سفری به نیویورک، زندگی اش را تغییر داد. با گروه هایی آشنا شد که سعی در ترکیب علوم کامپیوتری با هنر و معماری داشتند. در همان زمان، در شهر لس آنجلس در یک شرکت معتبر معماری کار می کرد. به آنجا برگشت، استعفا داد و در نیویورک مشغول به کار شد.

خودش می گوید: «والدینم تصور می کردند که دیوانه شده ام. می گفتند: "تو این کار عالی را برای خودت دست و پا کرده ای! حالا این افرادی که دیده ای که بوده اند؟ قرار است با هم چکار کنید؟". من در پاسخ به آنها می گفتم که دقیقا نمی دانم برنامه های شان چیست! گویا کارشان مرتبط با کامپیوترهاست.»

وی سپس توضیح می دهد که کار کردن در زمینه کامپیوترها چقدر از دانشی که در رابطه با علم معماری آموخته بود، متفاوت است: «زمانی که شما یک معمار هستید و ساختمانی در شهر بنا می کنید، کارتان همیشگی است. زمانی که در حال طراحی یک کامپیوتر (نرم افزار) هستید، اگر دستگاه را خاموش کنید، کارتان دیگر وجود ندارد. همین برایم جذاب بود.»

روزهای نخست در مایکروسافت

در سال ۱۹۹۳ از «Tisch» فارغ التحصیل شد و به مایکروسافت پیوست. در همان موقع، در تیمی مشغول به کار شد که در حال توسعه ویندوز ۹۵ بود. در آن مکان از تخصص خود در مبحث معماری و علوم کامپیوتری که به تازگی آن را فراگرفته بود، نهایت استفاده را کرد: «طراحی ویندوز همچون یک پروژه معماری شهری بود.»

وی می گوید که دقیقا مانند معماری، طراحی یک رابط کاربری به شکل کامل در گروی تعامل با ساختارها (نرم افزار)، سیستم ها (تجربه کاربری/ رابط کاربری) و فضاهای باز (دسکتاپ) بود. «مثل این است که بخواهید یک شهر بسازید. از خود می پرسید که مردم کجا قرار است دور هم جمع شوند و در کدام قسمت ها باید برج هایی چندین طبقه بسازیم.»

پس از ویندوز ۹۵، پروژه بعدی «چنگ» مربوط می شد به یک رابط کاربری تعاملی به نام «Comic Chat» که همراه با مرورگر «اینترنت اکسپلورر» نسخه ۳.۰ و در سال ۱۹۹۶ همراه شد. چنگ در رابطه با آن می گوید: «Comic Chat عالی بود. بهره گیری اندک از کامیک باعث می شد تا بتوان از متن ها استفاده ای بهینه کرد. اما گاهی همین سیستم نمی توانست انتظارات همه را برآورده نماید.»

این عدم تطابق میان انتظار کاربر و چیزی که یک چت بات، هوش مصنوعی و یا رابط کاربری گفتگوگر انجام می دهد، و کاری که در اصل باید انجام می داد، همان مقوله ای است که چنگ در سال های اخیر مشغول واکاوی اش بوده است. در این میان گاهی تلاش مایکروسافت همانند Tay، موجب تمسخر گسترده ی این شرکت می شود در حالی که برخی اوقات هم توانسته در همین راستا به موفقیت هایی دست پیدا کند. در هر صورت، مایکروسافت سال هاست که در این رابطه تلاش می کند. می کوشد تا کامپیوترها را به سخن با کاربران وادارد. می خواهد کامپیوترها بفهمند که انسان از آنها چه می خواهد.

آینده ای برای تجربه کاربری محاوره ای

وقتی سخن از رابط های کاربری محاوره محور می شود، چنگ بیان می کند که دشوارترین بخش از توسعه آنها، این است که به هوش مصنوعی تفهیم کنیم تا برای درک شخصیتی که با او سخن می گوید، تلاش کند: «چت بات ها باید به مقوله هایی شخصی تر بدل شوند تا اینکه به صورت عمومی قابل کارکرد باشند. اکنون تنها می توانند درک کنند که یک شخص، چه می گوید. قادر نیستند معنای کامل پشت پرده یک متن و شخصیتی که آن را بیان می کند را بشناسند. اگر حالتی بیش از اندازه جدی دارید، این مسئله را درک نمی کنند. نمی فهمند اگر سر به سر شان گذاشته و قصد دست انداختن شان را دارید.»

این همان اتفاقی بود که برای «Tay» افتاد. به جای اینکه سخنان ترول ها را نادیده بگیرد و به راحتی از کنار آنها عبور کند، از آنها یاد می گرفت؛ همانند یک کودک کنجکاو. چنگ می گوید: «زمانی که شما با یک شخص گفتگو می کنید،  تا حدی متوجه خواهید شد که شخصیت او چگونه است.» چت بات های مبتنی بر هوش مصنوعی نظیر Tay، باید به مرحله ای از هوشمندی برسند که دقیقا بتوانند چنین کاری را انجام دهند، نه اینکه تنها بفهمند که باید از ترول ها پرهیز نمایند. همچنین باید به کاربران حس آرامش و راحتی بدهند که این مسئله، مستلزم استفاده از ابزاری نظیر شوخ طبعی است. چنگ ادامه می دهد: «برای اینکه هوش مصنوعی مقبول اکثریت کاربران واقع شود، باید حسی کاملا طبیعی و انسانی داشته باشد.»

صحبت کردن با یک چت بات، اکنون به هیچ عنوان حسی طبیعی به کاربر القا نمی کند اما خانم چنگ می گوید که دوره ی رابط های کاربری محاوره ای آغاز شده است، هرچند که آنها هنوز در حال گسترش و تکامل هستند: «باید به یاد داشته باشیم که استفاده از کامپیوترها، هنوز هم برای عده زیادی از مردم دشوار است.»

رابط های کاربری محاوره ای می توانند به حل شدن مشکل همین افراد یاری رسانند و به همین دلیل است که شرکت هایی نظیر مایکروسافت و فیسبوک، در حال چند برابر کردن تلاش های خود در زمینه توسعه آنها هستند. اما مسئله به همینجا خاتمه نمی یابد و شرکت های یاد شده، صرفا تلاش نمی کنند تا نیاز افراد ناتوان در یادگیری مباحث کامپیوتری را رفع کنند.

حالا قریب به یک دهه از عرضه اولین آیفون سپری می شود؛ پس از آیفون، فراگیر شدن فزاینده ی اپلیکیشن ها را شاهد بودیم اما چنگ می گوید که کاربران پس از حدود ۱۰ سال، «از اپ ها خسته شده اند». به همین دلیل، هم کاربران و هم توسعه دهندگان علاقه دارند تا به سراغ هدف والاتری گام بردارند؛ هدفی که در صورت محقق گشتن آن، کاربر می تواند به سادگی با کامپیوتر خود همچون یک انسان سخن گوید.

همانگونه که از تجربه ی Tay می توان استنباط کرد، رسیدن به چنین جایگاهی مستلزم گذر زمان و تکامل یافتن بیشتر هوش مصنوعی است. اما خانم چنگ در این بین باور دارد دیری نخواهد پایید که بتوانیم به سادگی با کامپیوترهای خود همانند یک شخص عادی سخن گوییم. او می گوید در نهایت ما انسانیم و سخن وری را بهتر از هر کار دیگری می دانیم و با آن در راحت ترین حالت خود هستیم: «تفاوتی ندارد چه کسی هستید و در کجای زمین زندگی می کنید، در هر صورت، به گفتگو و صحبت کردن علاقه دارید.»