محققان یاهو دقیق ترین الگوریتم تشخیص محتوای توهین آمیز در جملات را توسعه داده اند

تیمی از محققان Yahoo Labs به تازگی با بررسی حجم عظیمی از نظرات ثبت شده در وبسایت این کمپانی، موفق به توسعه الگوریتمی شده اند که می تواند در تشخیص و جلوگیری از نظرات آزاردهنده کاربرد داشته باشد. به استناد وبسایت Technology Review، الگوریتم برنامه نویسی یاهو بهترین ابزار خودکاریست که تا کنون برای فیلتر کردن نظرات آزاردهنده و توهین آمیز طراحی شده است.

بسیاری از روش های فیلترینگ نظراتی که این روزها در سرویس های آنلاین استفاده می شوند، به ترکیبی از واژه های ممنوعه، اصطلاحات رایج و ساختار جملات برای تشخیص محتوای نفرت پراکنی تکیه می کنند. اما محققان یاهو یک گام فراتر گذاشته و یادگیری ماشینی را برای انجام این کار به خدمت گرفته اند.

با استفاده از تکنیک word embedding، که واژه ها را به عنوان یک کمیت برداری و نه صرفا مثبت یا منفی بودن بررسی می کند، سیستم جدید یاهو می تواند جملات دارای محتوای توهین آمیز را تشخیص بدهد، حتی اگر کلمات جمله به تنهایی معنای بدی نداشته باشند.

به ادعای یاهو سیستم مورد بحث در آزمایشات صورت گرفته، 90 درصد مواقع در تشحیص ادبیات توهین آمیز در جملات موفق بوده است. اگرچه عملکرد این الگوریتم بسیار تحسین برانگیز است، اما نباید فراموش کرد که نفرت پراکنی کلامی موضوعی است که دائما در حال تغییر و تحول بوده و شاید حتی یک انسان هم نتواند به طور صد در صد توهین آمیز بودن یک جمله را تشخیص بدهد.

به گفته الکس کرازودومسکی-جونز، محقق فعال در حوزه سوء استفاده های اینترنتی، از هر ده توئیتی که به گروهی از انسان ها برای تشخیص آزاردهنده بودن یا نبودن داده شد، به ندرت پیش آمد که همگی بر سر تشخیص محتوای یک توئیت به توافق برسند. بنابراین خودتان تصور کنید که انجام این کار برای یک رایانه چقدر مشکل خواهد بود.

مطالب مرتبط

احراز هویت دو مرحله‌ی گوگل و یاهو در مقابل حملات فیشینگ دوام نیاوردند

طبق گزارشات موج تازه‌ای از حملات سایبری علیه اکانت‌های گوگل و یاهو در جریان است که حتی می‌تواند لایه‌ی دوم امنیت را پشت سر بگذارد. لایه‌ی دوم امنیت مربوط به ورود دو مرحله‌ای به حساب کاربری یا two-factor authentication می‌شود که حملات یاد شده می‌توانند علاوه بر گذر از این لایه، اطلاعات شخصی کاربران را... ادامه مطلب

وقتی یاهو بر سیلیکون ولی حکم می راند؛ نگاهی بر سرگذشت مرورگران انسانی این شرکت

در اواسط دهه 1990 میلادی، قبل از آنکه گوگل وجود داشته باشد، بزرگان اینترنت در گوشه و کنار سیلیکون ولی گرد هم می آمدند، از وبسایت ها دیدن می کردند و آنها را به صورت دستی سازمان دهی و مرتب سازی می نمودند. این افراد وبگرد یا مرورگر خوانده می شدند و عموما هم گروه هایی متشکل... ادامه مطلب

یاهو اعتراف می کند؛ برخی کارمندان از هک گسترده سال 2014 باخبر بودند

یاهو به تازگی اعتراف کرده که برخی از کارمندانش در سال 2014، از ورود هکری به شبکه کمپانی باخبر بوده اند؛ هکری که با فعالیت های خود، قرار داد 4.8 میلیارد دلاری ورایزن برای خرید یاهو را تحت تاثیر فراوان قرار داد. یاهو در ماه سپتامبر اعلام کرد که بنابر بررسی های انجام شده در ماه... ادامه مطلب

چرا هسته اصلی تجارت یاهو به فروش می رسد؟

دوره شکوهمند یاهو به عنوان یک کمپانی مستقل به سرآمده و در حال حاضر، به نظر می رسد که خریدار اصلی آن «ورایزن» است. هر دو کمپانی در حال انجام مذاکرات نهایی خود هستند و اینطور که خبر می رسد، قیمت تمام شده حدود ۵ میلیارد دلار است. اکنون به نظر می رسد که این داد و... ادامه مطلب

بهره گیری همزمان از شبکه های اجتماعی و هوش مصنوعی برای شناسایی جرایم اجتماعی

یک بررسی جدید که توسط گروهی از محققین دانشگاه کاردیف در کشور ولز انجام گرفته نشان می دهد که شبکه های اجتماعی بزرگی چون فیسبوک و توییتر می توانند در مسیر شناسایی جرایم و شورش های عمومی بسیار کارآمد باشند. این نتایج از بررسی رفتارهای اجتماعی آنلاین در زمان وقوع حوادثی چون تظاهرات خیابانی یا تجمعات اعتراضی به دست... ادامه مطلب

کمیسیون بورس و اوراق بهادار آمریکا آسیب پذیری امنیتی یاهو را بررسی می کند

طی ماه های گذشته مشخص شد کمپانی یاهو و سرویس ایمیلش به ترتیب در سال های 2013 و 2014 مورد حمله هکرها قرار گرفته و مجموعاً اطلاعات نزدیک به 1.5 میلیارد کاربر سرقت شده است. به همین سبب یاهو که به علت پنهان کاری از سرمایه گذارانش مورد مواخذه قرار گرفته، به نظر می رسد نتوانسته اطلاعات... ادامه مطلب

نظرات ۱

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود
x