همکاری متا، تیک‌تاک و اسنپ‌چت: برنامه Thrive محتواهای مضر را شناسایی می‌کند
این طرح به شرکت‌های فناوری اجازه می‌دهد سیگنال‌هایی را به منظور شناسایی محتوای مربوط به خودکشی در پلتفرم‌هایشان برای یکدیگر بفرستند.
در دیجیاتو ثبت‌نام کنید
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوتازههای تکنولوژی
متا، اسنپ‌چت و تیک‌تاک با هم همکاری می‌کنند تا در طرحی به نام Thrive محتواهای مضر درباره خودکشی و خودآزاری را در پلتفرم‌هایشان تشخیص دهند. عملکرد این برنامه به این صورت است که اگر متا چنین محتواهای مضری در پلتفرم‌های خود شناسایی کرد، سیگنالی به دیگر شرکت‌ها می‌فرستد تا وجود این محتوا را در اپلیکیشن‌هایشان بررسی کنند.
براساس اعلام متا، «ائتلاف سلامت روان» برای ایجاد برنامه Thrive به شرکت‌های فناوری اجازه می‌دهد سیگنال‌هایی درباره تشخیص محتوای خودکشی یا خودآزاری به دیگر پلتفرم‌ها بفرستند تا از انتشار آن‌ها در پلتفرم‌های مختلف جلوگیری شود. متا دراین‌باره می‌گوید:
«مانند بسیاری از انواع مختلف محتوای مشکل‌ساز، محتوای خودکشی و خودآزاری به هیچ پلتفرمی محدود نیست… به همین دلیل با ائتلاف سلامت روان تلاش کردیم Thrive به وجود بیاید. این برنامه برای به‌اشتراک‌گذاشتن سیگنال‌های مربوط به نقض [قوانین درباره] محتوای خودکشی و خودآزاری است.»
نحوه عملکرد برنامه Thrive متا، اسنپ‌چت و تیک‌تاک
هنگامی که شرکتی مانند متا محتوای مضری را در اپلیکیشن‌های خود کشف می‌کند، هش (کد ناشناس مربوط به محتوای خودآزاری یا خودکشی) را با سایر شرکت‌های فناوری به اشتراک می‌گذارد، تا آن‌ها بتوانند پایگاه داده‌هایشان را برای جست‌وجوی همان محتوا بررسی کنند.
متا می‌گوید از آوریل تا ژوئن امسال (فروردین و خرداد)، بیش از 12 میلیون محتوای مربوط به خودکشی و خودآزاری در فیسبوک و اینستاگرام شناسایی کرده است. این شرکت اگرچه به کاربران اجازه می‌دهد درباره تجربیات خودکشی و خودآزاری خود صحبت کنند، وقتی این مطالب جنبه ترغیب دیگران به چنین کاری پیدا کند، محتوایی مضر شناسایی می‌شود.
یکی از مسائل دشوار تشخیص محتوای مضر در شبکه‌های اجتماعی این است که باید دائم تحت نظارت قرار بگیرند. هوش مصنوعی مطمئناً می‌تواند به برچسب‌گذاری خودکار این محتواهای مضر کمک کند اما بسیاری از این محتواها جزئیات ظریفی دارند که فقط انسان می‌تواند جنبه مضر آن‌ها را تشخیص دهد. اکنون شرکت‌های فناوری در برنامه Thrive گام مهمی برداشته‌اند تا فرایند پیچیده یافتن و پاکسازی این محتواها کمی آسان‌تر شود.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.