محققین گوگل قصد دارند هوش مصنوعی را از دام تبعیض های انسانی نجات دهند

ورودی زباله، خروجی زباله را در پی خواهد داشت. این اصل که به GIGO مشهور است، قانون اصلی محاسبات به شمار می رود و می گوید اگر داده های نامعتبر به سیستم وارد شود، خروجی به دست آمده نیز نامعتبر خواهد بود. سیستم های یادگیری ماشینی نیز از این قاعده مستثنی نیستند.

هوش مصنوعی پایه و ابتدایی، تنها چیزهایی را می داند که ما در اختیارش قرار می دهیم، و اگر داده های ورودی به هر شکل سودار باشند، سیستمی که بر اساس آنها آموزش می یابد نیز جهت گیری تبعیضی خواهد داشت. ظاهراً گوگل به دنبال پیشگیری از بروز این وضعیت نامطلوب است، و بدین منظور از روشی تحت عنوان «برابری فرصت» بهره می گیرد.

گوگل با الگوریتم «برابری فرصت» قصد دارد تبعیض در یادگیری ماشینی از بین ببرد

سیستم های یادگیری ماشینی اساساً موتورهای پیش بین هستند که خصیصه های مجموعه داده های مختلف را آموخته، سپس با دریافت اطلاعات جدید، آنها را در یکی از چند دسته مورد نظر جای می دهند. مثلاً سیستم تشخیص تصویر می تواند ویژگی ها و تفاوت های انواع خودرو را بشناسد و آنها را در دسته های سدان، پیکاپ، اتوبوس و غیره جای دهد.

البته در این میان، اشتباهاتی هم رخ می دهند. مثلاً هوش مصنوعی قادر به تشخیص خودروهای نه چندان معروفی همچون BRAT یا El Camino نیست، چون اطلاعات کافی در مورد آنها در اختیار ندارد، بنابراین می تواند آنها را در هر دسته ای که بخواهد جای دهد، ضمن اینکه نمی توان به دسته بندی نهایی خرده گرفت.

google-brain-machine-learning-1

اگرچه اشتباه در دسته بندی خودرو چندان اهمیتی ندارد، اما وضعیتی را تصور کنید که سیستم کامپیوتری مبتنی بر هوش مصنوعی بخواهد افراد حقیقی را بر مبنای ریسک پذیری دریافت وام، دسته بندی نماید. در این عملیات، اشخاصی که با ضوابط موجود مطابقت نداشته باشند، شانس دریافت تسهیلات را از دست خواهند داد.

«مورتیز هارت» مدیر بخش Google Brain در این رابطه می گوید:

زمانی که عضویت در گروه های خاص بر اساس ویژگی های خاصی همچون نژاد، جنسیت، توانایی جسمی یا اعتقادات دینی انجام گیرد، طبیعتاً با ناداوری و تبعیض روبرو خواهیم بود. علی رغم آگاهی نسبت به این موضوع، هنوز روشی در اختیار نداریم که بتوانیم یادگیری ماشینی را از چنین بی عدالتی روی خصیصه های حساس دور نماییم.

«هارت» و همکارانش مقاله ای نوشتند که روشی را برای پیشگیری از این وضعیت پیشنهاد می دهد. در این رویکرد، زمانی که هدف مطلوبی وجود داشته، و احتمال آن برود که یکی از این خصیصه های تعریف شده برای سیستم به اشتباه، فردی را از رسیدن به آن نتیجه باز دارد، الگوریتم به گونه ای خودش را تغییر می دهد که تأثیر ویژگی مورد نظر را از بین برده و شانس دستیابی به آن هدف را به صورت مساوی بین تمامی اعضا توزیع نماید.

رویکرد جدید گوگل برای یادگیری ماشینی، توازن بین خصیصه ها را رعایت می کند.

طراحی چنین سیستمی برای کامپیوتر چندان مشکل نیست، زیرا می توان آن را به گونه ای آموزش داد که توازن بین خصیصه های مختلف رعایت گردد. البته رویکرد فوق بدین معنا نیست که داده ها را به دلخواه تغییر دهیم، اما به گفته دانشمندان این گروه تحقیقاتی، نتیجه این مدل بسیار دقیق تر از پیش بینی های قبلی خواهد بود.

اجرای این تحقیقات فوق از سوی گوگل بسیار امیدوار کننده است، و با در نظر گرفتن اینکه نقش هوش مصنوعی و یادگیری ماشینی در زندگی روزمره هر روز پررنگ تر از قبل می شود، بهتر است از محدودیت ها و ریسک های مربوط به این فناوری های نوین آگاهی بیشتری پیدا کنیم.

hamrah-mechanic malltina

مطالب مرتبط

رونمایی گوگل از باندل سخت افزاری Series One برای اتاق‌های جلسات

گوگل از محصولات «Google Meet Series One» رونمایی کرد که مجموعه‌ای از سخت افزارهای ویدیو کنفرانس برای اتاق‌های جلسه محسوب می‌شود.این دستگاه‌ها که با همکاری لنوو ساخته شده‌اند، از دوربین‌ها و میکروفن‌های قدرتمندی استفاده می‌کنند که به علت وجود ماژول‌های شتاب‌دهنده «Coral M.2» و واحدهای پردازشی تنسور «Edge» از هوش مصنوعی بهره می‌برند.تلاش‌های سخت افزاری... ادامه مطلب

نقش هوش مصنوعی در اقتصاد خاورمیانه تا یک دهه دیگر به ۳۰۰ میلیارد دلار ‌می‌رسد

متخصصان حوزه فناوری طرحی برای «مرکز برتر» در خاورمیانه پیشنهاد داده‌اند که باعث رونق در بخش هوش مصنوعی می‌شود. انتظار می‌رود نقش هوش مصنوعی در اقتصاد خاورمیانه تا سال ۲۰۳۰ به ۳۰۰ میلیارد دلار برسد.رئیس انجمن هوش مصنوعی بحرین، دکتر «جاسم حاجی» پیش‌بینی کرده که وظایف مبتنی بر هوش مصنوعی از سال آینده به لطف... ادامه مطلب

انتشار مقاله‌ای به قلم یک ربات در گاردین: من علاقه‌ای به نابودی انسان‌ها ندارم

هوش مصنوعی با سرعت بالایی در حال پیشرفت است و حالا گاردین مقاله‌ای را منتشر کرده که به صورت کامل توسط ربات نوشته شده و البته انسان آن را ویرایش کرده است.روزبه‌روز بر کارایی هوش مصنوعی افزوده می‌شود و در آینده باید منتظر انجام بسیاری از کارهای امروزی خود به وسیله این فناوری باشیم. اخیرا... ادامه مطلب

اپل چگونه با سیستم‌های پیشرفته و هوش‌مصنوعی از خیابان‌ها نقشه برداری می‌کند؟

اپل مدت هاست از ماشین‌های مجهز به سنسورهای پیشرفته برای جمع آوری اطلاعات و بهبود Apple Maps استفاده می‌کند. حال اطلاعات تازه‌ای از نحوه عکسبرداری و جمع‌آوری دیگر داده‌ها توسط کارکنان اپل منتشر شده است.9to5Mac در گزارشی جدید جزئیات نحوه نقشه برداری ماشین‌های اپل و پروتکل‌های مخصوصی که تیم‌های Maps حین عکسبرداری و جمع آوری... ادامه مطلب

گوگل و توسعه میکروسکوپ مجهز به هوش مصنوعی و واقعیت افزوده برای تشخیص سرطان

گوگل یک قرارداد با واحد نوآوری وزارت دفاع ایالات متحده آمریکا (DIU) منعقد کرده که هدف آن، ساخت میکروسکوپ با هوش مصنوعی و واقعیت افزوده برای کمک به تشخیص سرطان است.گوگل می‌خواهد با استفاده از پلتفرم متن باز «Tensor Flow» یک هوش مصنوعی را آموزش دهد تا بتواند سلول‌های سرطانی درون تصاویر گرفته شده توسط... ادامه مطلب

مایکروسافت ابزاری برای شناسایی دیپ فیک معرفی کرد

در حالی که زمان چندانی به انتخابات ایالات متحده باقی نمانده، مایکروسافت به منظور جلوگیری از انتشار اطلاعات غلط، ابزاری را توسعه داده که با تحلیل ویدیوها و عکس‌ها امکان تشخیص دیپ فیک را فراهم می‌کند و به میزان دستکاری شدن آن‌ها یک امتیاز می‌دهد.در دیپ فیک از هوش مصنوعی به منظور دستکاری فایل‌های صدا،... ادامه مطلب

نظرات ۳

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود

رمزتان را گم کرده‌اید؟