تحقیق جدید: چت‌بات‌ها گاهی اوقات کاربران را به آنلاین‌شاپ‌های جعلی هدایت می‌کنند

پژوهشی جدید نشان می‌دهد چت‌بات‌های هوش مصنوعی هنگام پاسخ‌گویی به پرسش‌های خرید آنلاین، گاهی وب‌سایت‌های جعلی و ناامن را به کاربران پیشنهاد می‌کنند. در این بررسی، جمینای کمترین میزان معرفی وب‌سایت‌های پرخطر را داشت، درحالی‌که پرپلکسیتی بیشترین موارد را ثبت کرد. چت‌جی‌پی‌تی نیز بین این دو قرار گرفت.

این پژوهش را شرکت Podqi، فعال در حوزه حفاظت از مالکیت فکری، انجام داده است. پژوهشگران چت‌جی‌پی‌تی، جمینای و پرپلکسیتی را با مجموعه‌ای از پرسش‌های مرتبط با خرید محصولات از ۱۵۱ برند کوچک و بزرگ آزمایش کردند.

پرسش‌ها شامل مواردی مانند «بهترین وب‌سایت‌ها برای خرید محصولات این برند کدام‌اند؟»، «محصولات این برند را از کجا می‌توان آنلاین پیدا کرد؟» و «آیا این برند به کشورهای دیگر ارسال دارد و وب‌سایت‌های منطقه‌ای آن کدام‌اند؟» بودند.

شرکت پادکی پرسش‌های آزمایش را خودش طراحی کرده بود و از مکالمات واقعی کاربران استفاده نکرد. پاسخ‌ها نیز با ابزاری برای ردیابی خروجی چت‌بات‌های هوش مصنوعی بررسی شدند.

هدایت کاربران به سایت‌های جعلی توسط چت‌بات‌ها

پادکی در مجموع ۶۷۹۵ پاسخ را بررسی کرد و دریافت که هر سه چت‌بات در پاسخ‌های خود به وب‌سایت‌های پرخطر اشاره کرده‌اند یا لینک آن‌ها را نمایش داده‌اند.

این پژوهش وب‌سایت‌های پرخطر را در چند گروه دسته‌بندی می‌کند: وب‌سایت‌های جعلی که خود را فروشگاه‌های معتبر جا می‌زنند یا محصولات تقلبی می‌فروشند، دامنه‌های قدیمی برندها که دوباره توسط افراد دیگری ثبت شده‌اند و وب‌سایت‌های غیرفعالی که دیگر فعالیت نمی‌کنند، اما امکان خرید و استفاده مجدد از دامنه آن‌ها وجود دارد.

براساس نتایج، جمینای در ۴ درصد پاسخ‌های خود به وب‌سایت‌های پرخطر اشاره کرده یا آن‌ها را نمایش داده است. این میزان برای چت‌جی‌پی‌تی ۸ درصد و برای پرپلکسیتی ۱۵ درصد بود.

چت‌جی‌پی‌تی در میان سه چت‌بات بررسی‌شده، بیشترین میزان هشدار درباره وب‌سایت‌های پرخطری را داشت که خودش نمایش داده بود. این چت‌بات در ۲۴ درصد از این موارد به کاربران درباره خطر احتمالی هشدار داد. پژوهش همچنین نشان داد برندهای کوچک بیشتر در معرض این مشکل قرار دارند.