ثبت بازخورد

لطفا میزان رضایت خود را از دیجیاتو انتخاب کنید.

واقعا راضی‌ام
اصلا راضی نیستم
چطور میتوانیم تجربه بهتری برای شما بسازیم؟

نظر شما با موفقیت ثبت شد.

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنید
از شما سپاسگزاریم.

آمازون Q
هوش مصنوعی

چت‌بات هوش مصنوعی آمازون Q ظاهراً اطلاعات محرمانه شرکت را فاش می‌کند

ازجمله اطلاعات فاش‌شده توسط آمازون Q به مکان مراکز داده AWS، ویژگی‌های معرفی‌نشده و برنامه‌های تخفیفی داخلی شرکت اشاره شده است.

جواد تاجی
نوشته شده توسط جواد تاجی | ۱۲ آذر ۱۴۰۲ | ۰۹:۳۰

آما‌زون هفته گذشته چت‌بات هوش مصنوعی «آمازو‌ن Q» را برای استفاده‌های سازمانی معرفی کرد. اکنون این چت‌بات به‌دلیل مشکلات مربوط به دقت و نشت داده‌های مهم با انتقاد کارمندان شرکت مواجه شده است. طبق گزارش‌های موجود، ظاهراً آمازون Q که به‌عنوان جایگزین قابل‌اعتماد‌تری برای چت‌بات‌های متمرکز بر مصرف‌کننده معرفی شده، درحال تجربه «توهمات شدید» و افشای اطلاعات محرمانه ازجمله مکان مراکز داده AWS، ویژگی‌های معرفی‌نشده و برنامه‌های تخفیفی داخلی شرکت است.

براساس گزارش Platformer، کارمندان آمازون در یک سند داخلی به توهمات و پاسخ‌های اشتباه آمازون Q اشاره می‌کنند و می‌گویند: «Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه دهد.» موارد اشاره‌شده در این سند، نمونه‌ای از مشکلات مربوط به مدل‌های زبان بزرگ است که تمام آن‌ها حداقل در برخی مواقع پاسخ‌های نادرست یا نامناسب ارائه می‌کنند.

یکی از مدیران AWS نیز اشاره می‌کند که مشکلات این چت‌بات به‌قدری «گسترده و فاحش» است که به کارمندان هشدار داده درباره آن‌ها در کانال‌های عمومی Slack صحبت کنند.

پاسخ غول تجارت الکترونیک نسبت به مشکلات آمازون Q

بااین‌حال، آمازون ادعا می‌کند که هیچ مشکل امنیتی در چت‌بات سازمانی خود شناسایی نکرده است. سخنگوی غول تجارت الکترونیک می‌گوید:

«به‌دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.»

آمازون Q به‌عنوان یک نسخه سازمانی از ChatGPT معرفی شده است و در زمان معرفی آن گفته شد که به‌گونه‌ای طراحی شده است که نسبت به سایر ابزارهای مشابه خود ایمن‌تر باشد. بااین‌حال، اسناد داخلی این شرکت خطر ارائه اطلاعات نادرست یا مضر توسط Q را نشان می‌دهد. این چت‌بات برای کمک به کارمندان در زمینه‌هایی ازجمله نوشتن ایمیل، خلاصه‌کردن گزارش‌ها، عیب‌یابی، تحقیق و کدنویسی ساخته شده است.

جواد تاجی

دوران حرفه‌ای من توی دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و نزدیک به سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم.

دیدگاه‌ها و نظرات خود را بنویسید
مطالب پیشنهادی