چت بات نژادپرست مایکروسافت توسط چه کسی توسعه یافته بود؟

انتهای ماه مارس بود؛ صرفا چهار روز پیش از اینکه مدیر عامل مایکروسافت روی صحنه رویداد «بیلد» برود و از «محاوره به عنوان یک پلتفرم» یاد کند. «لیلی چنگ» (Lili Cheng) صبح از خواب برخاست و به سرعت متوجه شد که یکی از چت بات هایش با مشکلات عجیبی رو به رو شده است.

نام آن چت بات، «Tay» بود: یک ربات مبتنی بر هوش مصنوعی که از سوی مایکروسافت در توییتر به کار خود مشغول شده و قرار بود نقش یک دختر ۱۹ ساله آمریکایی را بازی کرده و به لطف هوش مصنوعی اش، با کاربران توییتر به گفتگو بپردازد. کافی بود تا کاربران شبکه اجتماعی توییتر به سراغش رفته و با او صحبت کنند تا به آنها پاسخ بگوید.

اما تنها ۱۶ ساعت پس از عضویت اش در توییتر، تبدیل شده بود به یک نژادپرست تمام عیار. از یک سو رییس جمهور آمریکا را یک میمون می خواند و از سوی دیگر به ستایش هیلتر می پرداخت؛ البته به لطف ترول هایی که این مسائل را به او آموزش داده بودند.

«لیلی چنگ»، مهم ترین شخص در توسعه Tay بود و طبیعتاً روز دومی که این ربات کارش را آغاز کرده بود، یکی از سخت ترین روزهای کاری چنگ هم به شمار می آمد. چنگ مدیر آزمایشگاه «تجربه اجتماعی آینده نگرانه» (FUSE) است؛ همان مکانی که Tay در آن توسعه یافت.

چنگ ۲۰ سال اخیر را به مایکروسافت یاری رسانده تا این شرکت بتواند درک بهتری از محدودیت های کاربری و طراحی رابط کاربری داشته باشد. در این بین، وی خبر می دهد که طی این چند سال، پروژه های بسیاری را برای مایکروسافت به سرانجام رسانده که تقریبا ویژگی های شبیه به هم در آن بسیار اندک بوده است. چنگ می گوید: «همه شان معمولا تجربیاتی اجتماعی، تعاملی، با ریسک بالا و البته مبهم بوده اند، دقیقا مانند Tay.»

معماری که دیوانه کامپیوترها شد

8a-lily-w1000

قاعدتاً انتظار دارید شخصی که در مایکروسافت چت باتی توسعه داده که بر بستر هوش مصنوعی می تواند با کاربران با گفتگو بپردازد، و البته مدیریت آزمایشگاه FUSE را بر عهده دارد، دکترای هوش مصنوعی از MIT داشته باشد که البته چنین نیست. چنگ در میانه دهه ۶۰ میلادی در ایالت نبراسکای آمریکا به دنیا می آید. مادری چینی و پدری ژاپنی دارد. در ابتدای کار، به تحصیل در رشته معماری پرداخت و در چند شرکت معتبر این حوزه نیز کار کرد.

در بیست و چند سالگی، هر کسی می توانست بگوید که او آینده ای روشن در زمینه معماری پیش روی خود دارد، تا اینکه سفری به نیویورک، زندگی اش را تغییر داد. با گروه هایی آشنا شد که سعی در ترکیب علوم کامپیوتری با هنر و معماری داشتند. در همان زمان، در شهر لس آنجلس در یک شرکت معتبر معماری کار می کرد. به آنجا برگشت، استعفا داد و در نیویورک مشغول به کار شد.

خودش می گوید: «والدینم تصور می کردند که دیوانه شده ام. می گفتند: "تو این کار عالی را برای خودت دست و پا کرده ای! حالا این افرادی که دیده ای که بوده اند؟ قرار است با هم چکار کنید؟". من در پاسخ به آنها می گفتم که دقیقا نمی دانم برنامه های شان چیست! گویا کارشان مرتبط با کامپیوترهاست.»

وی سپس توضیح می دهد که کار کردن در زمینه کامپیوترها چقدر از دانشی که در رابطه با علم معماری آموخته بود، متفاوت است: «زمانی که شما یک معمار هستید و ساختمانی در شهر بنا می کنید، کارتان همیشگی است. زمانی که در حال طراحی یک کامپیوتر (نرم افزار) هستید، اگر دستگاه را خاموش کنید، کارتان دیگر وجود ندارد. همین برایم جذاب بود.»

روزهای نخست در مایکروسافت

در سال ۱۹۹۳ از «Tisch» فارغ التحصیل شد و به مایکروسافت پیوست. در همان موقع، در تیمی مشغول به کار شد که در حال توسعه ویندوز ۹۵ بود. در آن مکان از تخصص خود در مبحث معماری و علوم کامپیوتری که به تازگی آن را فراگرفته بود، نهایت استفاده را کرد: «طراحی ویندوز همچون یک پروژه معماری شهری بود.»

وی می گوید که دقیقا مانند معماری، طراحی یک رابط کاربری به شکل کامل در گروی تعامل با ساختارها (نرم افزار)، سیستم ها (تجربه کاربری/ رابط کاربری) و فضاهای باز (دسکتاپ) بود. «مثل این است که بخواهید یک شهر بسازید. از خود می پرسید که مردم کجا قرار است دور هم جمع شوند و در کدام قسمت ها باید برج هایی چندین طبقه بسازیم.»

پس از ویندوز ۹۵، پروژه بعدی «چنگ» مربوط می شد به یک رابط کاربری تعاملی به نام «Comic Chat» که همراه با مرورگر «اینترنت اکسپلورر» نسخه ۳.۰ و در سال ۱۹۹۶ همراه شد. چنگ در رابطه با آن می گوید: «Comic Chat عالی بود. بهره گیری اندک از کامیک باعث می شد تا بتوان از متن ها استفاده ای بهینه کرد. اما گاهی همین سیستم نمی توانست انتظارات همه را برآورده نماید.»

TAY_c0-179-487-462_s885x516-w1000

این عدم تطابق میان انتظار کاربر و چیزی که یک چت بات، هوش مصنوعی و یا رابط کاربری گفتگوگر انجام می دهد، و کاری که در اصل باید انجام می داد، همان مقوله ای است که چنگ در سال های اخیر مشغول واکاوی اش بوده است. در این میان گاهی تلاش مایکروسافت همانند Tay، موجب تمسخر گسترده ی این شرکت می شود در حالی که برخی اوقات هم توانسته در همین راستا به موفقیت هایی دست پیدا کند. در هر صورت، مایکروسافت سال هاست که در این رابطه تلاش می کند. می کوشد تا کامپیوترها را به سخن با کاربران وادارد. می خواهد کامپیوترها بفهمند که انسان از آنها چه می خواهد.

آینده ای برای تجربه کاربری محاوره ای

4580287515_48054c3911_o-w1000

وقتی سخن از رابط های کاربری محاوره محور می شود، چنگ بیان می کند که دشوارترین بخش از توسعه آنها، این است که به هوش مصنوعی تفهیم کنیم تا برای درک شخصیتی که با او سخن می گوید، تلاش کند: «چت بات ها باید به مقوله هایی شخصی تر بدل شوند تا اینکه به صورت عمومی قابل کارکرد باشند. اکنون تنها می توانند درک کنند که یک شخص، چه می گوید. قادر نیستند معنای کامل پشت پرده یک متن و شخصیتی که آن را بیان می کند را بشناسند. اگر حالتی بیش از اندازه جدی دارید، این مسئله را درک نمی کنند. نمی فهمند اگر سر به سر شان گذاشته و قصد دست انداختن شان را دارید.»

این همان اتفاقی بود که برای «Tay» افتاد. به جای اینکه سخنان ترول ها را نادیده بگیرد و به راحتی از کنار آنها عبور کند، از آنها یاد می گرفت؛ همانند یک کودک کنجکاو. چنگ می گوید: «زمانی که شما با یک شخص گفتگو می کنید،  تا حدی متوجه خواهید شد که شخصیت او چگونه است.» چت بات های مبتنی بر هوش مصنوعی نظیر Tay، باید به مرحله ای از هوشمندی برسند که دقیقا بتوانند چنین کاری را انجام دهند، نه اینکه تنها بفهمند که باید از ترول ها پرهیز نمایند. همچنین باید به کاربران حس آرامش و راحتی بدهند که این مسئله، مستلزم استفاده از ابزاری نظیر شوخ طبعی است. چنگ ادامه می دهد: «برای اینکه هوش مصنوعی مقبول اکثریت کاربران واقع شود، باید حسی کاملا طبیعی و انسانی داشته باشد.»

صحبت کردن با یک چت بات، اکنون به هیچ عنوان حسی طبیعی به کاربر القا نمی کند اما خانم چنگ می گوید که دوره ی رابط های کاربری محاوره ای آغاز شده است، هرچند که آنها هنوز در حال گسترش و تکامل هستند: «باید به یاد داشته باشیم که استفاده از کامپیوترها، هنوز هم برای عده زیادی از مردم دشوار است.»

maxresdefault (1)-w1000

رابط های کاربری محاوره ای می توانند به حل شدن مشکل همین افراد یاری رسانند و به همین دلیل است که شرکت هایی نظیر مایکروسافت و فیسبوک، در حال چند برابر کردن تلاش های خود در زمینه توسعه آنها هستند. اما مسئله به همینجا خاتمه نمی یابد و شرکت های یاد شده، صرفا تلاش نمی کنند تا نیاز افراد ناتوان در یادگیری مباحث کامپیوتری را رفع کنند.

حالا قریب به یک دهه از عرضه اولین آیفون سپری می شود؛ پس از آیفون، فراگیر شدن فزاینده ی اپلیکیشن ها را شاهد بودیم اما چنگ می گوید که کاربران پس از حدود ۱۰ سال، «از اپ ها خسته شده اند». به همین دلیل، هم کاربران و هم توسعه دهندگان علاقه دارند تا به سراغ هدف والاتری گام بردارند؛ هدفی که در صورت محقق گشتن آن، کاربر می تواند به سادگی با کامپیوتر خود همچون یک انسان سخن گوید.

همانگونه که از تجربه ی Tay می توان استنباط کرد، رسیدن به چنین جایگاهی مستلزم گذر زمان و تکامل یافتن بیشتر هوش مصنوعی است. اما خانم چنگ در این بین باور دارد دیری نخواهد پایید که بتوانیم به سادگی با کامپیوترهای خود همانند یک شخص عادی سخن گوییم. او می گوید در نهایت ما انسانیم و سخن وری را بهتر از هر کار دیگری می دانیم و با آن در راحت ترین حالت خود هستیم: «تفاوتی ندارد چه کسی هستید و در کجای زمین زندگی می کنید، در هر صورت، به گفتگو و صحبت کردن علاقه دارید.»

مطالب مرتبط

هوش مصنوعی جدید فیسبوک اسناد را با دقت ترجمه و خلاصه می‌کند

محققان فیسبوک موفق به توسعه یک مدل مبتنی بر هوش مصنوعی شده‌اند که از طریق بازیابی کلمات، جملات و پاراگراف‌ها در زبان‌های مختلف و شناسایی الگوهای درون آن‌ها قادر به تولید متنی خلاصه است. این مدل «خودرمزگذار چند زبانه‌ با قابلیت بازیابی و تولید» یا به شکل خلاصه MARGE نام دارد.بر اساس گزارش VentureBeat، محققان ادعا... ادامه مطلب

هوش مصنوعی مایکروسافت عکس‌های قدیمی را با کیفیت بالایی ترمیم می‌کند

تیم تحقیقاتی مایکروسافت اخیرا موفق به توسعه یک الگوریتم مبتنی بر هوش مصنوعی شده که از طریق یادگیری عمیق تصاویر قدیمی را ترمیم می‌کند.بر اساس گزارشی که MSPoweruser از سوی مایکروسافت منتشر کرده، روش‌های ترمیم مرسوم که توسط یادگیری با نظارت انجام می‌شود، به علت پیچیده بودن تخریب عکس‌های واقعی و همچنین فاصله میان تصاویر... ادامه مطلب

توسعه هوش مصنوعی که با دقت ۹۹ درصد افراد در حال غرق شدن را تشخیص می‌دهد

بر اساس گفته سازمان بهداشت جهانی، غرق شدن سومین عامل مرگ‌های تصادفی در جهان است که سالانه جان نزدیک به ۳۲۰ هزار نفر را می‌‌گیرد. محققان اخیرا موفق به توسعه سیستم مبتنی بر هوش مصنوعی شده‌اند که باعث حفظ جان افراد می‌شود.به گفته سایت VentureBeat، محققان در دانشگاه «بن گوریون» راه حلی مبتنی بر هوش مصنوعی... ادامه مطلب

هوش مصنوعی «اکونومیست» از شکست ترامپ در انتخابات ۲۰۲۰ آمریکا خبر می‌دهد

نشریه «اکونومیست» امسال برای اولین بار آمار مربوط به پیش‌بینی انتخابات ۲۰۲۰ آمریکا را توسط هوش مصنوعی منتشر می‌کند. این هوش مصنوعی که شانس پیروزی جو بایدن، نامزد دموکرات‌ها و دونالد ترامپ را در ایالت‌های مختلف بررسی می‌کند، از شکست رئیس جمهور کنونی آمریکا در انتخابات پیش رو حکایت دارد.این هوش مصنوعی با همکاری متخصصان... ادامه مطلب

یک ربات بازیگر نقش اول فیلم b با بودجه ۷۰ میلیون دلاری خواهد بود

طبق خبری که در نشریه هالیوود ریپورتر منتشر شده رباتی به نام اریکا قرار است که نقش اول یک فیلم علمی تخیلی با بودجه ۷۰ میلیون دلاری با نام b را بازی کند. به گفته تهیه کنندگان، فیلم b اولین اثر سینمایی در دنیا خواهد بود که با تکیه بر یک بازیگر هوش مصنوعی ساخته... ادامه مطلب

صدها متخصص AI توسعه نرم‌افزار پیش‌بینی جرم را به خاطر تعصبات نژادی محکوم کردند

ائتلافی با حضور بیش از هزار محقق و متخصص حوزه هوش مصنوعی، علیه مقاله‌ای که ادعا می‌کند با استفاده از شبکه‌های عصبی قادر به پیش‌بینی جرم است، نامه‌ای سرگشاده منتشر کردند.بیش از ۵۰ کارمند فعال در بخش هوش مصنوعی شرکت‌هایی مانند فیسبوک، گوگل و مایکروسافت این نامه را امضا کرده‌اند و خواستار تجدیدنظر ناشر مقاله شده‌اند.... ادامه مطلب

ویجیاتو

نظرات ۶

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود

رمزتان را گم کرده‌اید؟