تبعیض نژادی و جنسیتی در الگوریتم های تشخیص چهره اثبات شد

الگوریتم های تشخیص چهره درگیر تعصبات نژادی، جنسیتی و سنی هستند که قابلیت اتکا به آنها را تا حد زیادی کاهش می دهد.

مطالعات «مؤسسه ملی فناوری و استانداردها» آمریکا (NIST) نشان داده ویژگی هایی مانند سن، نژاد و جنسیت به شدت روی کارکرد الگوریتم های تشخیص چهره تاثیر گذارند تا حدی که برخی گروه ها را تا ۱۰۰ برابر بیش از گروه های دیگر به اشتباه شناسایی می کند.

NIST در این مطالعه ۱۸۹ سیستم مختلف از ۹۹ سازمان را تست کرده که تقریبا تمام الگوریتم های تشخیص چهره دنیا را پوشش می دهد. گستردگی این مشکلات به حدی است که استفاده از چنین سیستم هایی در سناریوهای حیاتی مثل مواد امنیتی و قضایی را ناممکن می سازد. قانونگذاران آمریکایی این یافته ها را «شوکه کننده» خوانده و از دولت خواسته اند در تصمیم خود برای استفاده از این فناوری در مرزها تجدید نظر کند.

NIST در مطالعات خود تست های انفرادی برای تشخیص یک سوژه از روی کارت شناسایی و تست های گروهی برای تشخیص فرد بر اساس رکوردی در یک دیتابیس بزرگ را صورت داده است. در بسیاری از موارد زنان سیاهپوست آمریکایی در تست های دیتابیس به اشتباه تشخیص داده می شدند در حالی که آسیایی ها، سیاهپوستان و بومیان آمریکایی و جزایر پاسیفیک در جستجوهای انفرادی به اشتباه شناسایی می شدند.

در برخی موارد الگوریتم در مورد آسیایی ها و سیاهپوستان آمریکایی تا ۱۰۰ برابر بیش از سفیدپوستان دچار اشتباه می شد. دقیق ترین عملکرد این سیستم ها در مورد مردان میانسال سفید پوست به ثبت رسیده. یکی از کمپانی هایی که حاضر نشده سیستم خود را برای بررسی در اختیار NIST قرار دهد آمازون است که نرم افزار تشخیص چهره Rekognition را در اختیار نیروهای پلیس قرار می دهد.

محققان بر این باورند که با استفاده از مجموعه های متنوع تری از داده های آموزشی می توان این اشتباهات را کاهش داد ولی حتی در این صورت هم مشکلات دیگری مثل نقض حریم خصوصی و امنیت افراد توسط این دستگاه ها به قوت خود باقی خواهند ماند.

تماشا کنید: تلاش برای شکست دادن Face ID، از ماسک چهره تا دوقلوهای همسان