هشدار محققان: هوش مصنوعی میتواند اعتماد کاربران به قدرت تفکرشان را از بین ببرد
محققان میگویند استفاده منفعلانه از هوش مصنوعی باعث از بین رفتن توانایی استدلال مستقل و کاهش شدید اعتمادبهنفس میشود.
محققان دریافتند هرچه بیشتر وظایف فکری خود را به هوش مصنوعی بسپاریم، ممکن است اعتمادبهنفس خود را نسبت به تفکرمان از دست بدهیم. طبق مطالعه جدید، استفاده بیرویه از چتباتها میتواند اعتمادبهنفس کاربران به تواناییهای ذهنیشان را از بین ببرد و منجر به کاهش چشمگیر اعتماد به قوه استدلال مستقل شود. بااینحال، تفاوت بین آسیبدیدن یا رشدکردن، فقط به یک عامل بستگی دارد: اینکه ما چگونه با این فناوری تعامل میکنیم.
در مطالعه جدید، محققان رفتار ۱۹۲۳ فرد بزرگسال در ایالات متحده و کانادا را هنگام استفاده از ابزارهای هوش مصنوعی مورد بررسی قرار دادند.
یافتههای این پژوهش نشان داد افرادی که اتکای شدیدی به هوش مصنوعی داشتند (بهویژه کسانی که پاسخهای تولیدشده را بدون هیچگونه تغییری میپذیرفتند) بیشتر تمایل داشتند اعتراف کنند که ابزارهایی مانند چتجیپیتی، Claude و جمینای دارند به جای آنها «فکر میکنند». این گروه از کاربران همچنین گزارش دادند که اعتمادبهنفس کمتری نسبت به استدلالهای خود دارند و احساس مالکیت آنها روی خروجی نهایی بسیار ضعیف است.

در نقطه مقابل، شرکتکنندگانی که در مقابل هوش مصنوعی مقاومت میکردند (پاسخها را ویرایش میکردند، زیر سؤال میبردند یا پیشنهادات ماشین را رد میکردند) نتایج کاملاً معکوسی را تجربه کردند: اعتمادبهنفس بسیار بالاتر و احساس مالکیت قویتر روی خروجی نهایی داشتند.
«سارا بالدئو» (Sarah Baldeo)، نویسنده این مطالعه، دراینباره میگوید:
«هوش مصنوعی مولد میتواند به زوال شناختی یا تکامل شناختی منجر شود؛ همهچیز به «سبک تعامل» شما بستگی دارد. وقتی فعالیت مغزی را بسته به نحوه استفاده افراد از این ابزار بررسی میکنیم، شاهد افزایش یا کاهش عملکرد هستیم. این موضوع واقعاً ربطی به خود ابزار ندارد.»
تأثیر هوش مصنوعی بر تفکر و اعتمادبهنفس
یافتههای جدید با مطالعه قورباغه آبپز کاملاً همخوانی دارد. این مطالعه توانست شواهدی ارائه دهد که نشان میدهد هوش مصنوعی میتواند به سرعت تواناییهای فکری کاربران را تضعیف کند، بهویژه زمانی که از این فناوری برای کارهای «نیازمند استدلال شدید» استفاده میشود.
هر دو مطالعه بر یک مکانیسم اصلی توافق دارند: واگذاری کامل کارها به ماشین، ظرفیت شما برای استدلال مستقل را از بین میبرد، درحالیکه استفاده از هوش مصنوعی به عنوان یک ابزار مکمل، به حفظ آن کمک میکند.
«ایتن مولیک» (Ethan Mollick)، دانشیار دانشگاه پنسیلوانیا، معتقد است که تصمیمگیری درباره میزان اتکا به هوش مصنوعی معمولاً ناخودآگاه است. او توضیح میدهد:
«انسانها ذاتاً طوری طراحی شدهاند که تنبل باشند و برای انجام کارها کمترین تلاش ممکن را به کار بگیرند؛ این موضوع باعث میشود آنها در استفاده از هوش مصنوعی منفعل باشند.»
او این موضوع را به ماشینحساب تشبیه میکند که باعث شد مهارت تقسیم طولانی به صورت دستی از بین برود. بااینحال، مولیک هشدار میدهد:
«اگر هوش مصنوعی مشکلی را برای شما حل کند، شما دیگر فکر نمیکنید و چیزی یاد نمیگیرید. اما اگر کاری کنید که هوش مصنوعی مانند یک معلم خصوصی باشد و شما را به چالش بکشد، به نتایج بهتری دست خواهید یافت.»

محققان نیز این پدیده را به عنوان یک «حلقه اعتمادبهنفس» میبینند. افرادی که از قبل نسبت به تواناییهای خود نامطمئن هستند، بیشتر تمایل دارند کارها را به هوش مصنوعی بسپارند و این واگذاری، به نوبه خود، عدم اطمینان آنها را عمیقتر میکند. او صراحتاً هشدار میدهد: «اگر از قبل احساس بیثباتی و تزلزل شخصیتی دارید، استفاده از هوش مصنوعی اصلاً برای شما توصیه نمیشود.»
محققان برای جلوگیری از تحلیل رفتن مغز، ایجاد یک «داربست شناختی» را پیشنهاد میکند؛ یعنی قبل از سپردن یک کار به ماشین، خودتان یک درک اولیه از آن داشته باشید. آنها تأکید میکنند که یادگیری بحثکردن با هوش مصنوعی یک ضرورت است. بهجای پذیرش اولین پاسخ باید حداقل دو یا سه بار با ابزار وارد بحث شوید، از آن جزئیات بیشتری بخواهید یا به سادگی بگویید که با آن مخالف هستید.
درنهایت، محققان یک پرامپت قدرتمند را برای خنثیکردن تمایل هوش مصنوعی به تملقگویی پیشنهاد میکند. او توصیه میکند درخواستهای خود را با این جملات آغاز کنید:
«پاسخ خود را بر اساس اطلاعات قابلتأیید شخص ثالث ارائه بده. سعی نکن از من تعریف کنی یا یک پیوند عاطفی بسازی.»
به گفته او، با واردکردن این دستور در هر ابزار هوش مصنوعی، پاسخی صادقانهتر و مفیدتر دریافت خواهید کرد که بهجای تأیید صرف، تفکر شما را به چالش میکشد و استدلال مستقل شما را زنده نگه میدارد.
یافتههای این پژوهش در ژورنال Technology, Mind, and Behavior منتشر شده است.
دیدگاهها و نظرات خود را بنویسید
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
از دیجیاتو خواهش میکنم یک قابلیت سیو کردن مقاله هم بذاره
یه چیزی مثل watch later یوتوب
حالا اینجا میشه read later
این مقاله از اون مقاله هاییه که وقتی نت وصل شد باید بخونم😂
هست اون اول مقاله پایین اسم نویسنده یک گزینه واسه شیر هست
یکی هم واسه سیو کردن مقاله
دیجیاتو با ورد پرس ساخته شده
فکر نکنم با کانفیگی که در ازای هر 1 گیگابایت 1 میلیون تومن پرداخت کردن براشون به صرفه باشه که باهاش یه پلاگین بگیرن
CMS داخلی هم که اصلا وجود نداره فکر کنم که بخوان ازش استفاده کنن ( وجود داشته باشه هم پر از اسیب پذیریه )
تصور کن جایگزین ورد پرس ایرانی . CMS بومی "حرف فشار"
همه چیز در نهایت به اینترنت وابسته هستش
ولی خب میتونی صفحات رو با یه برنامه مثل httrack به صورت HTML دانلود کنی . تنها کاریه که فعلا میشه انجام داد
مخصوصا هوش مصنوعی "بله"
واااای اونو که اصلا حرفشو نزن
بعضی وقتا انقد خوب جواب میده که من به عقل خودم شک میکنم (که چرا دارم با این حرف میزنم)
😂
دانشمندا زحمت کشیدن. مغز انسان با قدرت فراوان خودش رو سازگار میکنه و همیشه راهی برای خودش میبره جلو. تمام پیشرفت بشر برای راحتی و رفاه بیشتره. حالا یه چی پیدا شده که به انسان این امکان رو میده کمتر سختکوشی بکنه و این خیلی خوبه. دانشمندا چون خودشون زیاد درس خوندن حالا چشمشو ندارن ببینن چند نفر میخوان راحت زندگی کنن. همش هشدار میدن
لطفا بر گرد پشت کوهتون 🙏🏻
پشت کوهمون هوش مصنوعی نداره ، مجبور میشم با تو حرف بزنم
با یه استریمر سر یه موضوع مربوط به برنامه نویسی بحثم شد بهم گفت: «برو از هوش مصنوعی هم بپرس، حرفم رو تایید میکنه» اونجا بود که فهمیدم چقدر مهمه که چطور با هوش مصنوعی حرف بزنی چون تقریبا هر چرت و پرتی که بگی رو تایید میکنه.
هوش مصنوعی در حال حاضر گاوه فقط یکسری دیتا دستشه، عقل نداره بهش اعتماد نکنید خیلی وقت ها دچار توهم میشه
اینو من نمیگم متخصص هاش میگن
هیچ منفعتی برای جوامع علمی نداره که بخوان رفاه جامعه رو مختل کنن
این هم دلایلم:
1. بروز بودن بخشی از فرهنگ علمه . دانشمند ها مطالبی که در دوران تحصیلشون خوندن , درحال حاضر تا حد زیادی تغییر پیدا کرده و خیلی از دانشمند ها اصلا از شیوه های غیر تحصیلی به تخصص دستیابی پیدا کردن
2. داشمند هایی که تخصص پرتقاضا با عرضه کم داشته باشن معمولا وضعیت مالی خوبی دارن . در طبقات بالاتر جامعه به سر میبرن و هدفشون کنترل منابع و حفظ ثروت هستش .
3. از بین بردن راحتی و رفاه مردم یک تصمیم احساسیه . افراد دانشمند معمولا تفکر منطقی رو یاد میگیرن و به راحتی درک میکنن که رفاه طبقات پایین تر تاثیری روی منافع اونها نداره
بارش حق👍🏼
ممنون برای بازنشر این مقاله، مفید بود. من تا جایی که از دستم بر بیاد سعی میکنم به مردم قبولونم چقدر هوش مصنوعی ضرر داره. اما نهایتا مردم اعتمادشون به هوش مصنوعی قلبه میکنه تا حرف مردم. عجیبه. ولی مقاله ها حداقل تأثیر خوبی دارن
هوش مصنوعی مثل هر فناوری دیگه ای مزایا و معایب داره
مثلا من میتونم از هوش مصنوعی یک اسکریپت مثلا bash بگیرم که کاری که 2 ساعت طول میکشه رو طی 20 دقیقه برام انجام بده .
یا ازش بخوام که یک متن رو برام توضیح بده
هردو استفاده بالا مفید هستن
در نظر بگیر که هدف مدل های زبانی اغلب دسترسی ساده به علم , برنامه نویسی , استفاده های روزمره و درکل کارهای کمتر حساس هستش
مدل های زبانی هیچوقت برای مشاوره یا سایکوتراپی ساخته نشدن یا توسعه دهنده هاشون زیاد روی این موارد تمرکز نکردن
مشکل از جایی شروع میشه که مدل های زبانی یک فضا برای بیان احساسات بدون قضاوت شدن رو برای افراد ارائه میدن
چیزی که جامعه معمولا ارائه نمیده .
با تشکر از مسئولین که پیشبینی کردن و اینترنت رو قطع کردن الان قدرت تفکرمونو از دست ندادیم دیوونه شدیم
مسئولین به فکر ما هستن برخودار.
تشکر بسیار ویژه از مسئولان خطر از بیخ گوشمون گذشت
مسئولان دلسوز ما اینترنت و هوش مصنوعی رو قطع کردن که از زوال عقل ما جلوگیری کنن ، واقعا عجب مردم نمک نشناسی هستیم !
یه کتاب خوبی در این مورد نوشته شده به نام Dune توصیه میکنم بخونین 😂
مثلا الان اینترنت ایران قطع شده ، کاربران قدرت تفکرشان رو از دست دادن ؟ به نظرم هوش مصنوعی مثل اختراع برق ، اینترنت ، خودرو ، کامپیوتر و خیلی ابزار های دیگه هست و این سو گیری که قدرت انسان رو میاره پایین اشتباه هست
فقط برق که حداقل یه طرف درست داشته، همشون مخصوصا اینترنت تو بازپخش کردن اطلاعات غلط تاثیری مخربی گذاشته رو مردم، ماشینم تحرکاتو مردم رو کم کرده ولی از طرفی سفر کردن رو راحت و دسترسی به منبع اطلاعات نامحدود راحتتر کرده !
هر چیزی یه بعد خوب داره و یه بعد بد، این دیگه به خودت بستگی داره چطور ازش استفاده کنی