تبعیض نژادی و جنسیتی در الگوریتم های تشخیص چهره اثبات شد

الگوریتم های تشخیص چهره درگیر تعصبات نژادی، جنسیتی و سنی هستند که قابلیت اتکا به آنها را تا حد زیادی کاهش می دهد.

مطالعات «مؤسسه ملی فناوری و استانداردها» آمریکا (NIST) نشان داده ویژگی هایی مانند سن، نژاد و جنسیت به شدت روی کارکرد الگوریتم های تشخیص چهره تاثیر گذارند تا حدی که برخی گروه ها را تا ۱۰۰ برابر بیش از گروه های دیگر به اشتباه شناسایی می کند.

NIST در این مطالعه ۱۸۹ سیستم مختلف از ۹۹ سازمان را تست کرده که تقریبا تمام الگوریتم های تشخیص چهره دنیا را پوشش می دهد. گستردگی این مشکلات به حدی است که استفاده از چنین سیستم هایی در سناریوهای حیاتی مثل مواد امنیتی و قضایی را ناممکن می سازد. قانونگذاران آمریکایی این یافته ها را «شوکه کننده» خوانده و از دولت خواسته اند در تصمیم خود برای استفاده از این فناوری در مرزها تجدید نظر کند.

الگوریتم های تشخیص چهره

NIST در مطالعات خود تست های انفرادی برای تشخیص یک سوژه از روی کارت شناسایی و تست های گروهی برای تشخیص فرد بر اساس رکوردی در یک دیتابیس بزرگ را صورت داده است. در بسیاری از موارد زنان سیاهپوست آمریکایی در تست های دیتابیس به اشتباه تشخیص داده می شدند در حالی که آسیایی ها، سیاهپوستان و بومیان آمریکایی و جزایر پاسیفیک در جستجوهای انفرادی به اشتباه شناسایی می شدند.

در برخی موارد الگوریتم در مورد آسیایی ها و سیاهپوستان آمریکایی تا ۱۰۰ برابر بیش از سفیدپوستان دچار اشتباه می شد. دقیق ترین عملکرد این سیستم ها در مورد مردان میانسال سفید پوست به ثبت رسیده. یکی از کمپانی هایی که حاضر نشده سیستم خود را برای بررسی در اختیار NIST قرار دهد آمازون است که نرم افزار تشخیص چهره Rekognition را در اختیار نیروهای پلیس قرار می دهد.

محققان بر این باورند که با استفاده از مجموعه های متنوع تری از داده های آموزشی می توان این اشتباهات را کاهش داد ولی حتی در این صورت هم مشکلات دیگری مثل نقض حریم خصوصی و امنیت افراد توسط این دستگاه ها به قوت خود باقی خواهند ماند.

 

تماشا کنید: تلاش برای شکست دادن Face ID، از ماسک چهره تا دوقلوهای همسان

تور کیش

مطالب مرتبط

ابداع سامانه تشخیص چهره جدید توسط چینی‌ها؛ شناسایی هویت افراد حتی با ماسک

یک شرکت چینی مدعی شده برای اولین بار در این کشور سیستم تشخیص چهره ای ساخته که می تواند هویت افرادی که ماسک به صورت زده اند را تشخیص دهد. در پی شیوع ویروس کرونا بسیاری از مردم چین ماسک می زنند و این شرکت امیدوار است با سامانه تشخیص چهره خود با بیماری مبارزه... ادامه مطلب

ویروس کرونا؛ اولین آزمون بزرگ و حیاتی تکنولوژی در قرن جدید

ویروس کرونا پس از ظهور در چین تا کنون ۸۲ هزار بیمار و ۳۰۰۰ قربانی را به جامعه بشری تحمیل کرده است. همزمان با تلاش گسترده برای جلوگیری از شیوع هرچه بیشتر آن توسعه ابزارهای مدرن و مبتنی بر هوش مصنوعی نیز شتاب بی سابقه ای گرفته است.فناوری های جدید نظیر دماسنج های مادون قرمز... ادامه مطلب

استارتاپ Clearview AI هک شد؛ دسترسی هکرها به لیست مشتریان

استارتاپ Clearview AI که به سه میلیارد تصویر کاربران از سایت هایی مثل فیسبوک، یوتیوب و توییتر دسترسی دارد، هک شد. در این حمله لیست استفاده کنندگان و مشتریان این سرویس لو رفت، اما به گفته این استارتاپ اطلاعات سرورها فاش نشدند.هزاران شرکت دولتی و خصوصی آمریکا از جمله Best Buy، Macy's، پلیس مهاجرت و... ادامه مطلب

ماسک صورت هم حریف فناوری تشخیص چهره چین نمی‌شود

با گسترش چشمگیر ویروس کرونا در چین و استفاده شهروندان از ماسک، کار دولت چین برای شناسایی چهره افراد سخت شده است. ظاهرا برخی کمپانی های این کشور به توسعه الگوریتم های هوشمند برای تشخیص چهره افراد حتی در صورت استفاده از ماسک روی آورده اند.کمپان Megvii اخیرا خواستار دریافت وام ۱۰۰ میلیون یوانی از دولت... ادامه مطلب

انگلیسی‌ها زیر ذره‌بین؛ پلیس در تمام لندن دوربین تشخیص چهره نصب می‌کند

طرح پلیس لندن برای استفاده دائمی از دوربین های تشخیص چهره با انتقاد گروه های مدافع حریم خصوصی مواجه شده و آنرا تهدیدی برای آزادی های مدنی خوانده اند.پلیس متروپولیتن لندن با موفق خواندن طرح آزمایشی استفاده از دوربین های تشخیص چهره در سطح این شهر، از آمادگی خود برای پیاده سازی دائمی آنها خبر... ادامه مطلب

پایان حریم خصوصی؛ دسترسی اپ Clearview AI به سه میلیارد تصویر کاربران

چیزی به پایان دورانی که به صورت ناشناس در کوچه و خیابان پیاده روی می کردیم، باقی نمانده است.استارتاپ Clearview AI اپلیکیشنی را توسعه داده که قادر به شناسایی افراد و ارائه اطلاعات در مورد آنها بر اساس یک تصویر خاص است. بر اساس گزارش نیویورک تایمز بیش از ۶۰۰ نهاد مجری قانون در آمریکا... ادامه مطلب

ویجیاتو

نظرات ۱

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود

رمزتان را گم کرده‌اید؟