اقدام پرریسک متا؛ چت بات هوش مصنوعی BlenderBot 3 در دسترس عموم قرار گرفت

حدود پنج سال پس از عرضه عمومی چت بات مایکروسافت که خیلی زود به خاطر تاثیرپذیری از اظهارات نژادپرستانه و جنسیت‌زده کاربران از رده خارج شد، حالا آزمایشگاه هوش مصنوعی متا چت باتی به نام BlenderBot 3 را معرفی و به‌صورت عمومی عرضه کرده که می‌تواند با کاربر صحبت کند و کارهایی مثل دستیارهای صوتی انجام دهد.

چت بات BlenderBot 3 در حال حاضر از طریق وب در دسترس است ولی فقط کاربران ساکن آمریکا می‌توانند از آن استفاده کنند. این هوش مصنوعی در حالت نمونه اولیه قرار دارد و مبتنی بر تلاش‌های قبلی متا در زمینه مدل‌های زبانی بزرگ (LLMS) ساخته شده. GPT-3 دیگری نرم‌افزاری است که بر اساس همین مدل به وجود آمده است.

BlenderBot 3 درست مثل بقیه مدل‌های زبانی بزرگ ابتدا با مجموعه عظیمی از اطلاعات تعلیم داده شد. این سیستم‌ها قادر به انجام کارهای مختلفی از کدنویسی گرفته تا کمک به نویسنده‌ها در نوشتن کتاب هستند. با این حال، همچنین می‌توانند از سوگیری‌های موجود در اطلاعاتی که گردآوری می‌کنند، تاثیر بپذیرند و حتی برای خودشان پاسخ بسازند.

چت بات متا منبع اطلاعات خود را ارائه می‌کند

این همان چیزی است که متا می‌خواهد با چت بات خود آن را بررسی کند. این هوش مصنوعی قادر به جستجو در اینترنت است تا بتواند درباره موضوعات مختلف حرف بزند. BlenderBot 3 در واقع حتی منبع اطلاعات خود را ارائه می‌کند تا مشخص باشد که حرف‌هایش بر مبنای چه داده‌هایی زده شده است.

کاربرانی که از این چت بات استفاده می‌کنند می‌توانند پاسخ‌های مشکوک را گزارش کنند. متا می‌گوید سخت تلاش کرده تا استفاده از جملات توهین‌آمیز و حساس را به حداقل برساند. با این حال عرضه عمومی چت بات همواره کار خطرناکی بوده است. مایکروسافت در سال 2016 چت بات Tay را در دسترس کاربران قرار داد اما کمتر از 24 ساعت بعد مجبور شد آن را از رده خارج کند.

ولی متا می‌گوید جهان هوش مصنوعی از آن زمان تاکنون تغییرات زیادی داشته و BlenderBot 3 هم از مکانیزم‌های ایمنی مختلفی بهره می‌برد تا اشتباهات مایکروسافت را تکرار نکند. بات متا برخلاف Tay اطلاعات ورود خود را به‌صورت آنی یاد نمی‌گیرد و بعدا از آن‌ها استفاده می‌کند. سخنگوی این شرکت می‌گوید اتفاقی که برای Tay افتاد ناگوار بود و باعث شد این فضا به یک زمستان طولانی برود. اما حالا متا سعی دارد این نرم‌افزار را به شکلی مسئولانه عرضه کند و تحقیقات در این زمینه را به پیش ببرد.