تبعیض نژادی و جنسیتی در الگوریتم های تشخیص چهره اثبات شد

الگوریتم های تشخیص چهره درگیر تعصبات نژادی، جنسیتی و سنی هستند که قابلیت اتکا به آنها را تا حد زیادی کاهش می دهد.

مطالعات «مؤسسه ملی فناوری و استانداردها» آمریکا (NIST) نشان داده ویژگی هایی مانند سن، نژاد و جنسیت به شدت روی کارکرد الگوریتم های تشخیص چهره تاثیر گذارند تا حدی که برخی گروه ها را تا ۱۰۰ برابر بیش از گروه های دیگر به اشتباه شناسایی می کند.

NIST در این مطالعه ۱۸۹ سیستم مختلف از ۹۹ سازمان را تست کرده که تقریبا تمام الگوریتم های تشخیص چهره دنیا را پوشش می دهد. گستردگی این مشکلات به حدی است که استفاده از چنین سیستم هایی در سناریوهای حیاتی مثل مواد امنیتی و قضایی را ناممکن می سازد. قانونگذاران آمریکایی این یافته ها را «شوکه کننده» خوانده و از دولت خواسته اند در تصمیم خود برای استفاده از این فناوری در مرزها تجدید نظر کند.

الگوریتم های تشخیص چهره

NIST در مطالعات خود تست های انفرادی برای تشخیص یک سوژه از روی کارت شناسایی و تست های گروهی برای تشخیص فرد بر اساس رکوردی در یک دیتابیس بزرگ را صورت داده است. در بسیاری از موارد زنان سیاهپوست آمریکایی در تست های دیتابیس به اشتباه تشخیص داده می شدند در حالی که آسیایی ها، سیاهپوستان و بومیان آمریکایی و جزایر پاسیفیک در جستجوهای انفرادی به اشتباه شناسایی می شدند.

در برخی موارد الگوریتم در مورد آسیایی ها و سیاهپوستان آمریکایی تا ۱۰۰ برابر بیش از سفیدپوستان دچار اشتباه می شد. دقیق ترین عملکرد این سیستم ها در مورد مردان میانسال سفید پوست به ثبت رسیده. یکی از کمپانی هایی که حاضر نشده سیستم خود را برای بررسی در اختیار NIST قرار دهد آمازون است که نرم افزار تشخیص چهره Rekognition را در اختیار نیروهای پلیس قرار می دهد.

محققان بر این باورند که با استفاده از مجموعه های متنوع تری از داده های آموزشی می توان این اشتباهات را کاهش داد ولی حتی در این صورت هم مشکلات دیگری مثل نقض حریم خصوصی و امنیت افراد توسط این دستگاه ها به قوت خود باقی خواهند ماند.

 

تماشا کنید: تلاش برای شکست دادن Face ID، از ماسک چهره تا دوقلوهای همسان

malltina

مطالب مرتبط

مغز متفکر هک توییتر قبلا به جرم سرقت صدها هزار دلار بیت‌کوین دستگیر شده بود

«گراهام ایوان کلارک»، هکر ۱۷ ساله‌ای که گفته می‌شود «مغز متفکر» هک گسترده توییتر بوده، سال گذشته میلادی به جرم سرقت بیت کوین به ارزش صدها هزار دلار دستگیر شده بوده است.بر اساس گزارش مفصلی که در نیویورک تایمز منتشر شده، هکرها سال ۲۰۱۹ گوشی «گرگ بنت» (Greg Bennet) سرمایه گذار حوزه فناوری ساکن شهر... ادامه مطلب

هکرهای Maze ده‌ها گیگابایت داده محرمانه شرکت‌های ال‌جی و زیراکس را منتشر کردند

هکرهای Maze ده‌ها گیگابایت اطلاعات محرمانه شرکت‌های ال جی و زیراکس را پس از ناکام ماندن عملیات اخاذی منتشر کردند.هکرها ادعا می‌کنند ۵۰.۲ گیگابایت داده محرمانه شرکت ال جی و ۲۵.۸ گیگابایت از داده‌های شرکت زیراکس (تولیدکننده پرینتر) را سرقت کرده‌اند.هکرهای Maze معمولاً پس از نفوذ به شبکه شرکت‌ها، اطلاعات حساس آن را سرقت و... ادامه مطلب

یکی از عاملان توزیع باج‌افزار مخرب GandCrab در بلاروس دستگیر شد

وزارت امور داخلی بلاروس با انتشار بیانیه‌ای مطبوعاتی از دستگیری مردی ۳۱ ساله به اتهام توزیع باج افزار GandCrab خبر داد. این فرد که نامش فاش نشده در شهر کوچکی به نام «گومل» در جنوب بلاروس دستگیر شده است.مقامات بلاروس می‌گویند این فرد که سابقه کیفری ندارد با ثبت نام در فروم هک قصد مشارکت... ادامه مطلب

هکرهای توییتر چطور به دام پلیس فدرال آمریکا افتادند؟

در روز ۱۵ جولای امسال بود که یکی از کاربران دیسکورد با لقب Kirk، پیشنهادی وسوسه‌برانگیز مطرح کرد: «من در توییتر کار می‌کنم. من می‌توانم [هر اکانتی با] هر نامی را به دست بگیرم. اگر در حال انجام کاری هستی به من خبر بده». این نقطه سرآغاز چیزی بود که تنها چند ساعت بعد بزرگ‌ترین... ادامه مطلب

توییتر حمله فیشینگ هدف‌دار را عامل هک گسترده این پلتفرم اعلام کرد

توییتر اطلاعات جدیدی در مورد حمله بی سابقه به این پلتفرم منتشر کرد. به گفته این شبکه اجتماعی برخی از کارمندان این شرکت قربانی حمله فیشنگ هدف‌دار (Spear Phishing) شده و زمینه را برای دسترسی هکرها به ابزارهای محرمانه فراهم کرده‌اند.توییر با انتشار چند توییت و مقاله در وبلاگ این شرکت اعلام کرد که برخی... ادامه مطلب

آسیب پذیری Boothole کشف شد؛ میلیاردها سیستم لینوکسی و ویندوزی در خطر

محققان آسیب پذیری جدیدی به نام BootHole شناسایی کرده‌اند که قبل از بالا آمدن سیستم عامل فعال شده و به هکرها دسترسی لجام گسیخته به سیستم را می‌دهد. با اینکه سیستم‌های لینوکسی مستقیماً در معرض خطر این آسیب پذیری هستند، اما به گفته محققان کامپیوترهای ویندوزی از یک دهه گذشته تاکنون نیز در برابر آن آسیب... ادامه مطلب

نظرات ۱

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود

رمزتان را گم کرده‌اید؟