هوش مصنوعی اینستاگرام مانع انتشار کپشن‌های توهین آمیز می‌شود

شبکه اجتماعی اینستاگرام همواره به شیوه فعالانه برخورد خود با قلدرهای اینترنتی و ترول‌ها می‌بالد. این شبکه اجتماعی عقیده دارد که توانسته قابلیت‌هایی در اپلیکیشن خود قرار دهد تا از آزارهای سایبری دیگر کاربران جلوگیری کند. در همین راستا این کمپانی امروز قابلیت جدید دیگری در برنامه خود قرار داده که از نشر متون توهین‌آمیز توسط کاربران جلوگیری خواهد کرد.

این قابلیت که به صورت مستقیم توسط هوش مصنوعی کنترل می‌شود، به کاربرانی که قصد دارند متون توهین آمیز و آزاردهنده با محتوای نامناسب بنویسند اخطار می‌دهد تا متن خود را تغییر دهند. اینستاگرام این اختیار را به کاربر می‌دهد که پیش از نشر متن، آن را ویرایش کرده تا از نفرت پراکنی جلوگیری شود.

البته این اولین بار نیست که شاهد کنترل نشر یا بازنشر محتوای نامناسب از سوی این غول شبکه‌های اجتماعی هستیم. پیش از این نیز اینستاگرام از نوشتن کامنت‌هایی با محتوای ترویج کننده نفرت نیز جلوگیری می‌کرد. این کمپانی با تکیه بر هوش مصنوعی می‌تواند محور و موضوع اصلی هر کامنت را تشخیص دهد و از نشر آن توسط کاربر جلوگیری کند.

اقدامات اینستاگرام برای پدید آوردن فضایی امن، ستودنی است. طیف سنی کاربران این شبکه اجتماعی متشکل از نوجوانان، جوانان و میان‌سالان بوده که طبیعاتا هدف این کمپانی نیز محافظت از همین قشر است. ویژگی جدیدی که ارائه شده نیز با هدف ارتقا و آموزش کاربران به منظور عدم تخطی از چارچوب قوانین این شبکه اجتماعی است. همچنین این قابلیت از بسته شدن احتمالی حساب‌های کاربری افرادی که متون نامناسب می‌نویسند نیز جلوگیری خواهد کرد.

بر اساس گفته‌های اینستاگرام، ویژگی جدید در ابتدا در چند کشور محدود فعال خواهد شد که این کمپانی هنوز نام آن‌ها را مشخص نکرده است. احتمالا این قابلیت طی ماه‌های آینده در کشورهای دیگر نیز عرضه شود تا کل مردم دنیا بتوانند از شبکه اجتماعی امنی برای به اشتراک گذاشتن عکس‌ها و ویدیو‌های خود بهره ببرند.