این اپ جنجالی تصاویر را با الفاظ زشت و نژادپرستانه برچسب گذاری می کند

محققان دانشگاه پرینستون آمریکا اپلیکیشنی جنجالی توسعه داده اند که تصاویر افراد را به شکلی توهین آمیز و زشت برچسب گذاری می کند. هدف از ساخت این اپ جلب توجه کاربران به نقص های یادگیری ماشینی در تصمیم گیری اعلام شده است.

توسعه دهندگان اپلیکیشن ImageNet ادعا می کنند اپ آنها که به کمک هوش مصنوعی عکس های سلفی را به طور «صادقانه» دسته بندی می کند. همین مسئله نیز کار دست آن داده چون با برچسب گذاری های نژادپرستانه و زشت، طوفانی از انتقادات و جنجال را در پی داشته است.

اپ مورد بحث کاربران رنگین پوست را با الفاظ نژادپرستانه و افرادی که از مشکلات جسمی رنج می برند را با کلمات زشت برچسب گذاری کرده است.

جالب اینکه توسعه دهندگان می گویند هدف از ساخت اپلیکیشن توهین به کاربران و ایجاد جنجال بوده تا با این کار توجهات را به سمت تبعیض و خطاهایی که یادگیری ماشینی مرتکب می شود، جلب کنند. این نیت خیرخواهانه چیزی از عصبانیت کاربران کم نکرده چون آنها معتقدند سازندگان از عکس های آنان بدون اجازه استفاده کرده اند.

یکی از روزنامه نگاران انگلیسی برای امتحان این اپلیکیشن عکس خود را آپلود کرد و آن را با برچسب «قربانی تجاوز» تحویل گرفت. کاربران دیگر نیز با آپلود کردن تصویر خود با برچسب هایی توهین آمیز، نژادپرستانه و زننده مواجه شدند.

سازندگان اپلیکیشن می گویند دسته بندی هایی که هوش مصنوعی انجام می دهد به ندرت توسط کاربران عادی قابل مشاهده بوده و محرمانه تلقی می شوند. هوش مصنوعی در بعضی اوقات از الفاظ زشت و نژادپرستانه برای دسته بندی افراد استفاده می کند. سازندگان قصد دارند به وسیله اپلیکیشن خود کاربران را نقص های هوش مصنوعی در دسته بندی ها آگاه کنند.

فارغ از جنبه توهین آمیز و نژادپرستانه، اپ ImageNet قضاوت های جالبی هم انجام داده؛ مثلاً «دونالد ترامپ»، رییس جمهور آمریکا را به عنوان «رییس جمهور پیشین» برچسب گذاری کرده که به انتخاب نشدن او در دور دوم ریاست جمهوری اشاره می کند. «ایلان ماسک»، مدیرعامل تسلا را نیز به عنوان یک فرد «عوام فریب» تشخیص داده است.