محققان از تبعیض نژادی در الگوریتم‌های قیمت‌گذاری اوبر و لیفت خبر می‌دهند

تحقیق دانشگاه «جرج واشنگتن» نشان می‌دهد که در الگوریتم‌های قیمت‌گذاری استارتاپ‌های حمل و نقل مانند اوبر و لیفت تعصبات اجتماعی نقش دارند.

در این تحقیق معیارهای مختلف مورد استفاده توسط مدل‌های قیمت‌گذاری این استارتاپ‌ها مورد تحلیل و بررسی قرار گرفت. این اولین باری نیست که این الگوریتم‌ها مورد انتقاد قرار می‌گیرد. در سال ۲۰۱۵ دانشگاه «پرینستون» با استفاده از مدلی به این موضوع پی برد که هزینه سفرها برای شهروندان آمریکایی آسیایی بدون توجه به سطح درآمد، دو برابر بیشتر از سایرین است. نویسندگان تحقیق جدید به عواقب سنگین استفاده از الگوریتم قیمت‌گذاری پویا اشاره کرده‌اند.

«Aylin Caliskan»، یکی از نویسندگان مقاله جدید اعلام کرده:

«زمانی که از یادگیری ماشینی برای اطلاعات اجتماعی استفاده می‌شود، الگوریتم‌ها از قوانین آماری که به صورت تاریخی در آن بی‌عدالتی و همچنین تعصبات اجتماعی وجود دارد، یاد می‌گیرند. با توجه به این موضوع، مدل‌های یادگیری ماشینی حاوی تعصبات اجتماعی هستند.»

در این تحقیقات اطلاعات «شیکاگو» مورد تحلیل قرار گرفته چرا که اخیرا در این شهر قانونی به تصویب رسیده که بر اساس آن اپلیکیشن‌های حمل و نقل باید قیمت خود را به صورت علنی اعلام کنند. دیتابیس این شهر نه تنها حاوی کرایه است، بلکه محل سوار کردن و پیاده کردن مسافران را نیز در اختیار محققان قرار می‌دهد.

در این تحقیق ۶۸ میلیون سفر انجام شده توسط اوبر، لیفت و «Via» مورد بررسی قرار گرفت و نمونه‌هایی که اطلاعات ناقصی داشتند نیز از این تحلیل‌ها حذف شدند. در این تحقیق از روش آماری «تعصب اثر اندازه‌‌ای تکراری» (IESB)، برای تعیین میزان سوگیری الگوریتم استفاده شده. محققان با استفاده از کرایه به ازای هر مایل سفر با معیارهای قومیت، سن، سطح تحصیلات، وضعیت شهروندی و قیمت متوسط در شیکاگو، توانستند امتیاز تعصب را اندازه‌گیری کنند.

نویسندگان این تحقیق از افزایش قیمت سفرها در صورت سوار کردن یا پیاده کردن مسافر در مناطقی با درصد کم افراد بالای ۴۰ سال، افراد با تحصیلات دبیرستانی یا کمتر و خانه‌های ارزان‌تر از میانگین قیمتی شیکاگو خبر داده‌اند. آن‌ها همچنین به این موضوع پی برده‌اند که کرایه‌های سفر در مناطقی از شیکاگو که جمعیت سفیدپوست کمتری دارد، بالاتر است.

در حالی که این تحقیق اطلاعات سفرها در شیکاگو را مورد بررسی قرار داده، نویسندگان انتظار دارند که این موضوع در سایر مناطق نیز صادق باشد. آن‌ها به تحقیق سال ۲۰۱۶ «دفتر ملی تحقیقات اقتصادی» اشاره کرده‌اند. این پژوهش اعلام کرده که رانندگان مرد آفریقایی آمریکایی در شهرهای «بوستون» و «سیاتل» تا ۳ برابر بیشتر با احتمال لغو شدن درخواست مواجه می‌شوند و برای پیدا کردن مسافر تا ۳۵ درصد بیشتر منتظر می‌مانند.

اوبر اعلام کرده که در این تحقیق چندین عامل مانند اهداف سفرها و ساعت مدنظر قرار نگرفته که این موارد می‌توانند نتایج نهایی را تغییر دهند. لیفت در بیانیه‌ای از این موضوع خبر داده که از تعصبات سیستماتیک در جامعه اطلاع دارد و از چنین تحقیقاتی قدردانی می‌کند. لیفت نیز مانند اوبر به تاثیر عامل‌هایی مانند اهداف سفرها و همچنین زمان انجام آن‌ها در قیمت‌گذاری نهایی اشاره کرده است.

این مقاله هنوز به چاپ نرسیده است، بنابراین این احتمال وجود دارد که عامل‌های مدنظر اوبر و لیفت به آن اضافه شوند و نتیجه نهایی به چاپ برسد.