عقب‌نشینی تیک‌تاک؛ استفاده از هوش مصنوعی برای ارائه خلاصه متنی از ویدیوها متوقف شد

تیک‌تاک پس از انتشار خلاصه‌های متنی نادرست و عجیب برای برخی ویدیوها، استفاده از این قابلیت هوش مصنوعی را برای توصیف محتوا محدود کرده است. این قابلیت که با عنوان «AI Overviews» شناخته می‌شود، زیر برخی ویدیوهای این پلتفرم ظاهر می‌شد و تلاش می‌کرد محتوای ویدیو یا زمینه مرتبط با آن را توضیح دهد.

این قابلیت فقط برای بخشی از کاربران در آمریکا و فیلیپین فعال شده بود، اما خلاصه‌های اشتباه و گاه بسیار عجیب آن، به‌ویژه زیر ویدیوهای مربوط به چهره‌هایی مانند «چارلی دامیلیو» (Charli D'Amelio)، ستاره تیک‌تاک، به‌طور گسترده در فضای آنلاین با بحث همراه بوده است.

قابلیت AI Overviews تیک‌تاک، مشابه خلاصه‌های هوش مصنوعی گوگل در بالای نتایج جستجو، زمانی نمایش داده می‌شد که کاربر برای مشاهده توضیحات بیشتر یک ویدیو اقدام می‌کرد. برخی نمونه‌های ثبت‌شده توسط کاربران نشان می‌دهد که این قابلیت در مواردی ویدیوها را درست توصیف کرده، اما Business Insider چند نمونه از خلاصه‌های «به‌شدت نادرست» را نیز شناسایی کرده است.

اشتباهات هوش مصنوعی تیک‌تاک

در یکی از این موارد، ویدیویی از رقص چارلی دامیلیو به‌عنوان «مجموعه‌ای از بلوبری‌های مختلف با تاپینگ‌های متفاوت» توصیف شده بود. این رسانه همچنین خلاصه‌های مبهم، نادرست و عجیب دیگری را زیر ویدیوهای مربوط به چهره‌هایی مانند «شکیرا» و «اولیویا رودریگو» مشاهده کرده است.

در یکی از نمونه‌های دیگر که در ردیت منتشر شده، ویدیویی از اجرای رقص باله توسط هوش مصنوعی تیک‌تاک با عبارت «فردی که به‌طور مکرر با یک مرغ لاستیکی به سر خود ضربه می‌زند» توصیف شده است. نمونه‌های عجیب دیگری نیز گزارش شده است. برای مثال، خلاصه‌های هوش مصنوعی زیر دو ویدیوی جداگانه که هیچ‌کدام شامل خشونت یا ابزار خاصی نبوده‌اند، ادعا کرده بودند که در آنها «فردی به‌طور مکرر با چکش به سر خود ضربه می‌زند».

به گفته تیک‌تاک، این خلاصه‌های آزمایشی اکنون فقط برای پیشنهاد محصولاتی مشابه با کالاهای نمایش‌داده‌شده در ویدیوها استفاده می‌شوند. تیک‌تاک همچنین می‌گوید علت خطاها و ناهماهنگی‌های AI Overview را شناسایی کرده، اما توضیحی درباره جزئیات آن ارائه نکرده است.

گوگل نیز در سال ۲۰۲۴ به‌دلیل نتایج عجیب AI Overviews مورد تمسخر کاربران قرار گرفته بود. در آن زمان این هوش مصنوعی به کاربران توصیه کرده بود سنگ بخورند یا برای درست‌کردن پیتزا از چسب استفاده کنند. اپل هم بعدتر به‌دلیل عملکرد بد ابزار هوش مصنوعی خلاصه‌سازی نوتیفیکیشن‌ها با انتقاد روبه‌رو شد؛ چراکه این ابزار تیترهای نادرستی برای اخبار BBC News و New York Times تولید می‌کرد.