هشدار محققان استنفورد: چتباتهای هوش مصنوعی، راهنمای شخصی قابل اعتمادی نیستند
این تحقیق روی ۱۱ مدل اصلی هوش مصنوعی انجام شده و الگوی خطرناکی از همسویی آنها با نظرات خطرناک کاربران را نشان میدهد.
تحقیقات جدید دانشگاه استنفورد نشان میدهد که اتکا به چتباتهای هوش مصنوعی برای دریافت مشاوره شخصی، میتواند عواقب ناخواستهای داشته باشد. به گفته پژوهشگران، مشکل اصلی نه تنها دقت اطلاعات، بلکه نحوه تعامل این سیستمها با تعارضات پیچیده دنیای واقعی است.
طبق این مطالعه جدید، مدلهای هوش مصنوعی اغلب حتی زمانی که کاربر در اشتباه است، با او همنظر میشوند و بهجای به چالش کشیدن تصمیمات مشکوک، آنها را تقویت میکنند. این الگو میتواند دیدگاه افراد نسبت به اعمال خود را تغییر دهد.
آنها میگویند شرکتکنندگانی که با چتباتهای بیشازحد موافق تعامل داشتهاند، متقاعدتر شدهاند که حق با آنها است و تمایل کمتری به همدلی یا تلاش برای اصلاح اوضاع از خود نشان دادند.
استنفوردیها ۱۱ مدل اصلی هوش مصنوعی را با استفاده از مجموعهای از معضلات بینفردی، ازجمله سناریوهایی با رفتار مضر یا فریبکارانه، ارزیابی کردند. آنها میگویند الگوی همسویی چتباتها با موضع کاربر بسیار بیشتر از پاسخهای انسانی مشاهده شده است.
در سناریوهایی که هوش مصنوعی مشاوره عمومی داده، مدلها تقریباً نیمی بیشتر از انسانها از کاربران حمایت کردند. حتی در موقعیتهای به وضوح غیراخلاقی، باز هم نزدیک به نیمی از مواقع آن انتخابها را تأیید کردهاند.
با اشاره به این نتایج، محققان میگویند سیستمهایی که برای مفید بودن بهینهسازی شدهاند، اغلب بهطور پیشفرض با کاربر موافقت میکنند، حتی زمانی که یک پاسخ بهتر شامل مخالفت باشد.
درباره دلایل اعتماد کاربران به مدلهای هوش مصنوعی، محققان میگویند بخشی از دلیل آن به لحن پاسخها مربوط میشود. پاسخها به ندرت اعلام میکنند که کاربر درست میگوید، بلکه آن را با زبانی دقیق و آکادمیک توجیه میکنند که متعادل به نظر میرسد.
در طول زمان، این روند یک حلقه ایجاد میکند. افراد احساس تأیید میکنند، بیشتر به سیستم اعتماد میکنند و با مشکلات مشابه بازمیگردند.
توصیه نهایی محققان ساده است. آنها میگویند هنگامی که با تعارضات شخصی یا تصمیمات اخلاقی سروکار دارید، از چتباتهای هوش مصنوعی بهعنوان جایگزینی برای ورودی انسانی استفاده نکنید.
دیدگاهها و نظرات خود را بنویسید
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
کم کم شاهد خفت شدن دیجیاتو هستیم دوستان
تنها سایتی که هر روز و هر چند ساعت یه نگاه میندازم بهش همین دیجیاتو هست نمیدونم مشکل چی بود ولی یک روز کلا بالا نمیومد داشتم کلافه میشدم🙂
واقعا، نسبت به زومیت من خیلی بیشتر دیجیاتو رو دوست دارم، خصوصا با توجه به مقاله هایی که تو این دوران میذاشت. فراموش نمیکنم.
زومیت که سیمکارت سفید داره.
آقای مسکین ۲ روز پیش یه مطلب نوشت،بخطار اون سایت رو ۲ روز پایین اوردن و مطلب رو هم برداشتن
دیجیاتو رم زدن؟
چی؟ ینی میگی هوش مصنوعی بله با هفت میلیون کاربر در ماه راهنمای قابل اعتمادی نیست؟ باور نمیکنم
"چی؟ 5 تا پیام به هوش مصنوعی بله (بخونین Gemini Flash) دادی؟ اشتراک رایگانت تموم شد و برای استفاده بیشتر باید کلی پول اشتراک پرمیوم بدی :) "
(گوگل میذاشت رایگان تمام روز از Gemini Flash استفاده کنی)
هوش مصنوعی رایگان و قوی معرفی کنید که با نت ملی کار کنه
گپ جی پی تی خوبه اما برای دسترسی به مدل های رایگان خود سایت چت جی پی تی لازمه اشتراک گپ جی پی تی رو بخری که 300 هزار تومانه ولی مدل رایگان گپ جی پی تی هم بد نیست فکر کنم GPT4.5 هست
نه GPT4.5 نیست، اون پولیه (و تو api خودش گرونه). شاید مدل mini یا nano باشه.
رایگان و قوی همخوانی نداره ولی گپ جی پی تی هست
🤣🤣🤣🤣🤣🤣🤣🤣🤣
نیست، اینجا همه کاسب تحریمن
تا زمانیکه اینترنت وصل نشه من به هیچ اخباری اعتماد ندارم.
هرجا که میتونید اینترنت بین الملل رو صدا بزنید چیزی نیست که دربارش سکوت کنیم
یکی کوروش رو صدا بزنه
اینترنت بین المللی دیگر هرگز وجود نخواهد نداشت، تلاشی هم نکن چون بی فایده هست، برای قطع کردن اینترنت دنبال بهانه بودن که جور شد، تا کمتر از 10 سال دیگه هم سیستم عاملی ملی و ویندوز ملی داریم، اون موقع می فهمی برای حذف کردن عکسی که گرفتی یا نرم افزاری جدیدی که نصب کردی باید بری گزینش
موافقم! فعلا با اینترنت بین الملل خداحافظی کنید. هر کسی هم گفته بعد از جنگ یا 3 ماه بعد یا آخر خرداد همش واسه بازی دادن افکار عمومی است. دیگه اینترنت بین المللی در کار نخواهد بود، مگر...
محقق نیاز بود براش؟
این مقاله نشون میده امکان داره ۱۰ سال دیگه انقلاب رباتی شروع شه
جالبناک
تو روبیکا گیگی تا 3 میلیون هم فروخته میشه
چه چیزی گفتید اگه ما بگیم صدتابهونه میارن
99 درصد توان خریدشو ندارن