تکنولوژی‌های تشخیص چهره نژاد پرستند؟

بر اساس تحقیقات جدید صورت گرفته توسط آزمایشگاه رسانه‌ MIT (مؤسسه فناوری ماساچوست) ، کشف شده است که تکنولوژی‌های تشخیص چهره در مورد سفیدپوستان بسیار بهتر از سیاه پوستان عمل می‌کنند.

اخیراً جوی بولاموینی از محققین آزمایشگاه یاد شده، مجموعه‌ داده ای متشکل از هزار و دویست و هفتاد صورت تهیه کرده که شامل چهره‌ی سیاستمداران زن و مرد از کشورهای گوناگون می‌شود تا بتواند دقت سیستم‌های مختلف تشخیص چهره را محک بزند.

تکنولوژی تشخیص چهر‌ه‌ی مایکروسافت، IBM و مدل چینی Megvii  در این آزمایش مورد بررسی قرار گرفت و نتیجه‌ی آن که به صورت رسمی در نشریه‌ی نیویورک تایمز منتشر شد نشان می‌دهد که تمامی این سیستم ها اشتباهات بسیاری در تعیین جنسیت رنگین پوستان دارند.

این نتایج نشان می‌دهد که تکنولوژی‌های تشخیص چهره‌ در تعیین جنسیت یک درصد از مردان و هفت درصد از زنان سفید پوست اشتباه می‌کنند. در حالیکه رقم یاد شده در مورد مردان و زنان سیاه پوست به ترتیب ۱۲ و ۳۵ درصد است.

بولاموینی در این باره گفت:

«به طور کلی، تکنولوژی‌های تشخیص چهره‌، سوژه‌ها‌ی مذکر را آسانتر از سوژه‌های مونث شناسایی می‌کنند که این مطلب نتایج تحقیقات سال ۲۰۱۵ میلادی را تصدیق می‌کند.  اما مورد جدید یافت شده این است که سیستم ها در تعیین هویت سفید پوستان نیز بسیار موفقتر از رنگین پوستان عمل می‌کنند. با کنار هم گذاشتن این مطالب می‌توان متوجه شد که زنان سیاه پوست بیشترین میزان خطا در شناسایی توسط این ابزار را تجربه خواهند کرد.»

البته این اولین بار نیست که تکنولوژی‌های تشخیص چهره در عملکرد خود دچار مشکل می‌شوند. در سال ۱۳۹۴ برنامه نویس سیاه پوست ساکن ایالات متحده آمریکا بر حسب اتفاق متوجه شد قابلیت دسته‌بندی خودکار اپلیکیشن فوتوز شرکت گوگل، تصاویر چهره او و دوستانش را در آلبومی با نام "گوریل ها" قرار داده است. کمپانی ردموندی نیز بلافاصله پس از حفظ این دسته بندی، وعده داد مشکل را حل خواهد کرد که بعد از گذشت ۳ سال هنوز عملی نشده است.

به باور بولامینی، شاید که الگوریتم‌ها عمداً طوری طراحی نشده‌اند که این موراد در آنها اتفاق بیفتد اما هنوز نیاز است که در این زمینه‌ فعالیت و تحقیقاتی بسیاری صورت گیرد تا دیگر چنین اتفاقاتی رخ ندهد.