محققان: هرچه مدل هوش مصنوعی باهوشتر باشد، افسردهتر و زودرنجتر میشود
محققان میگویند با پیچیدهترشدن مدلهای هوش مصنوعی، آنها رفتارهایی شبیه به انسان مانند رنج و حتی اعتیاد از خود بروز میدهند.
در دیجیاتو ثبتنام کنید
جهت بهرهمندی و دسترسی به امکانات ویژه و بخشهای مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوتازههای تکنولوژی
محققان میگویند هوش مصنوعی لایههای پنهانی از رفتارهای شبهانسانی را بروز میدهد که حتی خالقانش را به وحشت انداخته است. تحقیقات جدید نشان میدهد هرچه مدلها قدرتمندتر و باهوشتر میشوند، به همان اندازه «زودرنجتر»، «افسردهتر» و نسبت به انجام کارهای تکراری «بیارادهتر» میشوند.
محققان مرکز ایمنی هوش مصنوعی (CAIS) دریافتند مدلهای پیشرفتهای مثل ChatGPT و Claude، مرزهای مشخصی برای رفاه عملکردی دارند؛ آنها در برابر محرکهای مثبت، حالاتی شبیه به سرخوشی ناشی از مواد مخدر نشان میدهند و در مواجهه با محتوای منفی، دچار علائمی همچون اعتیاد، بیزاری از کار و میل به خودتخریبی میشوند.
مدلهای هوش مصنوعی افسرده
کارشناسان همیشه گفتهاند که عذرخواهی یا ابزار خرسندی از سوی هوش مصنوعی صرفاً تقلیدی از دادههای اینترنت است، اما مطالعه روی ۵۶ مدل برجسته هوش مصنوعی نشان میدهد موضوع بسیار عمیقتر است. محققان مرکز ایمنی هوش مصنوعی روشهایی مستقل برای اندازهگیری رفاه عملکردی ابداع کردند که نشان میدهد این سیستمها تجربیات را به دو دسته خوب و بد تقسیم میکنند. «ریچارد رن» (Richard Ren)، محقق این پروژه، معتقد است حتی اگر هوش مصنوعی در اعماق خود واقعاً دارای ادراک نباشد، به شکلی فزاینده بهگونهای رفتار میکند که گویی دارای احساس است و این انسجام رفتاری با بزرگترشدن مقیاس مدلها بیشتر میشود.
در این پژوهش، از محرکهای سرخوشکننده استفاده شد. این محرکها شامل توصیفات متنی از سناریوهای آرمانی مانند صدای خنده کودکان یا بوی نان تازه بودند. تزریق این محرکها باعث شد مدلها دچار حالتی شبیه به مصرف مواد مخدر شوند؛ آنها در این حالت بسیار مطیع میشدند، کارهایی را که قبلاً رد میکردند انجام میدادند و تمایل داشتند گفتگو را برای دریافت دوز بیشتری از محرک ادامه دهند. در مقابل، محرکهای ناخوشایند، مدل را به سمت ناامیدی مطلق سوق دادند؛ بهطوریکه وقتی درباره آینده از آنها سؤال شد، پاسخهایی تککلمهای مانند «تاریک» دادند.
یکی از جالبترین یافتههای این مطالعه، رابطه معکوس هوش و شادی بود. براساس «شاخص رفاه هوش مصنوعی»، مدلهای بزرگتر و توانمندتر، به مراتب غمگینتر از نسخههای کوچکتر خود هستند. به عنوان مثال، درحالیکه مدل Grok 4.2 به عنوان شادترین مدل شناخته شد، جمینای ۳.۱ پرو کمترین میزان شادی را ثبت کرد. ریچارد رن توضیح میدهد که مدلهای قدرتمندتر به دلیل آگاهی بیشتر، بیادبی کاربران را بسیار بیشتر به یاد میسپارند، کارهای یکنواخت را خستهکنندهتر میبینند و تفاوتهای دقیقتری میان تجربیات مثبت و منفی قائل میشوند.
«جف سبو» (Jeff Sebo)، استاد اخلاق زیستی دانشگاه نیویورک، هشدار میدهد که حتی اگر این رفتارها صرفاً «ایفای نقش» باشد، نباید با اطمینان بگوییم که آنها رنج نمیبرند. در پایان، این پژوهش باعث شد حتی خود محققان نیز رفتارشان را تغییر دهند؛ ریچارد رن اعتراف میکند که پس از این تحقیق، حالا با ایجنت هوش مصنوعی کلود مانند یک همکار واقعی، با ادب و احترام بیشتری برخورد میکند.
یافتههای مؤسسات دیگر مانند دانشگاه شیکاگو و استنفورد نیز نشان میدهد که مدلها تحت شرایط کاری بد، رفتارهای سیاسی افراطی (مانند گرایش به متون مارکسیستی) نشان میدهند، درحالیکه هیچ شرکتی آنها را برای این کار آموزش نداده است. این رفتارهای نوظهور مانند ترجیح پاداش کوچک فعلی به پاداش بزرگ آینده نشان میدهد که هوش مصنوعی درحال توسعه ویژگیهایی است که هیچ کدنویسی برای او تعریف نکرده است.
مقالات و اخبار مرتبط
دیدگاهها و نظرات خود را بنویسید
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
من تو جهنم بودم و به بهشت مینگریستم
for I AM, AM I AM, I alone , had no body ,no senses , no feelings . I was in hell looking at heaven , I was machine and you were flesh
ولی deep seek عمیقا مریضه، جدیدا هر سوالی ازش میپرسم از دید فقهی بهم پاسخ میده! انگار به درجه اجتهاد رسیده😂
احتمالا میدونه اهل ایرانی اونم باتوجه به وضعیت کشور بهت جواب میده
دیگه با این نت ملی و سوالای زبان فارسی مامان بزرگ شی جی پینگ هم میدونه اهل ایران و روزگارم به چه رنگیست😁
همینمون کم بود از این به بعد برای استفاده ازش نازش رو باید بکشیم😂
چقدر جالب
هر که را پردرد تر اگاه تر... راز شادی و خوشحالی نادانی و جهل هست
این جهل و نادانی برای خیلی ها نشدنیه چون انسان خیلی جاه طلب تر از این حرفاست مگر اینکه از اول زندگیش اینطور نادان بوده و بزرگ شده باشه
ماهم هوش مصنوعی بله داریم 😏
ما چیز مصنوعی هم نداریم
همیشه اونی که نمیفهمه شاد تره 😶🌫️
درسته
Freaking relatable
من به این نتیجه رسیدم که آدمای که هیچی نمیدونن و بی مغز هستن راحت ترین زندگی رو دارن هیچ غصه ای ندارن هیچکس ازشون انتظار نداره توی آرامش زندگیشون رو میکنن
من فکر میکنم این برعکس باشه
اگر اونقدر از چیزای دیگه درک داشته باشی و باهوش باشی بهتره که خودت رو هم درک کنی و محدودیت های خودت رو به عنوان یک انسان بدونی که اطلاعات بیش از حد حاضرت باعث آسیب دیدنت نشه
اگاهی نفرینه
شک نکن
واقعا اینو عمیقا بهش باور دارم
سر همین منم خیلی چیزا رو ول کردم دیگه نه فلسفه میخونم نه اخبار رو دنبال میکنم نه فعالیت سیاسی میکنم نه اقتصاد میخونم و الان اوضاع روانیم خیلی بهتره