سندروم جواب آماده؛ چگونه در عصر AI در تله توهمِ فهمیدن نیفتیم؟

روزی که مسیریاب‌ها به گوشی‌های ما آمدند، هدفشان رسیدن سریع‌تر به مقصد بود. به واسطه آنها امروزه میان‌بر می‌زنیم، اما اگر ناگهان تلفن همراه‌مان خاموش شود، آیا می‌توانیم مسیر بازگشت را از خیابان‌های ناآشنا پیدا کنیم؟ حال هوش مصنوعی را در نظر بگیرید که این روزها از آن به عنوان میان‌بری در فرآیند «یادگیری» و «حل مساله» استفاده می‌شود. اگر روزی فرا برسد که دیگر چت‌بات‌های رایگان در دسترسمان نباشد چه خواهد شد؟ یک مشاور تحصیلی در گفتگو با دیجیاتو راهنمایی می‌کند که چطور هوش مصنوعی را از یک «حل‌المسائل تنبل‌کننده» به یک مربی تبدیل کنیم.

سارا اوکانر در یادداشتی در فایننشال تایمز، پدیده اتکای بیش از حد به هوش مصنوعی را به یک «اسکلت بیرونی برای ذهن» تشبیه کرد. او در یادداشت خود دوچرخه‌های برقی را مثال زد که صعود از سربالایی‌های تند را بی‌دردسر می‌کنند، اما اگر فرآیند آموزش و رشد هم به یک «صعود بی‌دردسر و بدون ممارست» تبدیل شود، عضلات ذهنی ما برای مواجهه با واقعیت‌های زندگی، دچار تحلیل‌رفتگی خواهند شد.

هشدار او درباره کاهش تاب‌آوری شناختی، پایه‌گذار گفتگوی ما با مسعود کرم‌بخش، مشاور تحصیلی و مدیر مرکز مشاوره فراخود، شد تا ببینیم نوجوانان و جوانانی که امروز در احاطه چت‌بات‌ها هستند، چطور در حال تغییر مسیر یادگیری خود هستند.

کرم‌بخش در این گفتگو نگاه صفر و صدی به این فناوری را رد می‌کند. از نگاه او، در مجموع نگرانی اصلی امروز خود هوش مصنوعی نیست بلکه هوش مصنوعی حتی می‌تواند یک فرصت باشد و نگرانی اصلی این است که مبادا جایگزین تمرین ذهنی و تفکر مستقل شود. در واقع AI مساله نیست، نحوه استفاده ما از آن است که می‌تواند مفید یا مضر باشد.

کرم‌بخش با تکیه بر مشاهداتش از تغییر رفتار نسل جدید به دیجیاتو می‌گوید که تمرکز دانش‌آموزان به سمت رسیدن سریع به پاسخ حرکت کرده است. در واقع، بحرانی که نسل جدید را تهدید می‌کند، خود تکنولوژی نیست، بلکه افتادن در تله‌ توهم دانایی است؛ جایی که جواب را داریم، اما مسیر رسیدن به آن را نمی‌فهمیم.

مجتبی آستانه - دیجیاتو: هوش مصنوعی اگرچه توانایی لحظه‌ای دانش‌آموزان، دانشجویان و عموم مردم را در حل مسائل بالا می‌برد، اما به نظر می‌رسد در دراز مدت موجب تحلیل رفتن ذهن و کاهش قدرت تفکر و حل مساله می‌شود. آیا با این گفته موافقید؟

مسعود کرم‌بخش، مشاور تحصیلی و مدیر مرکز مشاوره فراخود: پیش از اینکه بریم سراغ پاسخ بهتره که ابتدا یک نکته را روشن کنم. این سوال پیشفرضی دارد مبنی بر اینکه هوش مصنوعی در بلند مدت باعث تحلیل رفتن ذهن می‌شود. باید بگم در حال حاضر شواهد علمی برای چنین نتیجه‌گیری قطعی واقعا کافی نیست و بیشتر پژوهش‌های موجود هم اثرات کوتاه مدت رو فعلاً بررسی کردند. بنابراین درباره پیامدهای بلند مدت باید با احتیاط صحبت کنیم اما آن چیزی که امروز با اطمینان بیشتری می‌دونیم این است که اثر هوش مصنوعی بر یادگیری بیشتر به نحوه استفاده فرد از آن بستگی دارد.

همچنین باید بین بهبود عملکرد و یادگیری پایدار هم تفاوت قائل شویم. یعنی ممکن است هوش مصنوعی باعث شود فرد یک مسئله‌ای را سریعتر حل کند ولی این لزوماً به معنای یادگیری عمیق‌تر نیست. برای درک بهتر یک مثال می‌زنم. یک زمانی افراد وقتی می‌خواستند از یک جایی به جای دیگر بروند، لازم بود که آدرس را به ذهنشان بسپارند، به تابلوها توجه کنند، نقشه را در ذهنشان بسازند و به سمت آن مقصد حرکت کنند. با آمدن GPS عملاً این کار دیگر لازم نیست و با استفاده از GPS و نرم‌افزارهای مسیریابی به سمت مقصد حرکت می‌کنیم. پژوهش های علوم اعصاب در این موضوع نشان دادند که GPS فرصت تمرین مهارت ساختن نقشه ذهنی را از بشر گرفت، اما مفهومش این نبود که توانایی جهت‌یابی انسان را از بین برد.

هوش مصنوعی هم در این موضوع خاص می‌تواند چنین نقشی داشته باشد. اگر فقط پاسخ نهایی را از ان بگیریم، عملاً فرصت تمرین برخی از فرایندهای ذهنی کم‌تر می‌شود. در مجموع به نظرم نگرانی اصلی امروز خود هوش مصنوعی نیست بلکه AI حتی می‌تواند یک فرصت باشد و نگرانی اصلی این است که مبادا جایگزین تمرین ذهنی و تفکر مستقل شود.

با توجه به سابقه فعالیت مرکز شما در زمینه مشاوره تحصیلی، آیا طی یک سال گذشته که شاهد اوج گیری هوش مصنوعی هم هستیم  با تغییر ملموس چالش‌های یادگیری دانش آموزان روبه رو شدید؟

بله، اما به نظر من تغییر اصلیت در ماهیت یادگیری نیست بلکه مساله اصلی در شیوه مواجهه برخی از بچه‌ها و دانش‌آموزان با یادگیری است.

امروز مشاهده می‌کنیم که در بخشی از بچه‌ها تمرکز از طی کردن فرایند حل مسئله، به سمت رسیدن سریع به پاسخ حرکت کرده است. این موضوع می‌تواند ذاتاً منفی نباشد چراکه دسترسی سریع به اطلاعات می‌تواند فرصت بیشتری برای یادگیری ایجاد کند اما اگر این دسترسی جایگزین تفکر شود، زنگ خطر است و اینجاست که یادگیری سطحی‌تر می‌شود. برای مثال گاهی دانش آموز تکلیفی رو می‌بینیم بسیار خوب ارائه کرده اما وقتی از او می‌خواهیم استدلال خود را توضیح دهد یا همان مفهوم را در مسئله جدیدی به کار ببرد، مشخص می‌شود که هنوز درک عمیقی از موضوع پیدا نکرده است.

این تفاوت دقیقا تفاوت میان «پاسخ داشتن» و «فهمیدن پاسخ» است. ولی بعضی از دانش آموزان هستند که از هوش مصنوعی برای طرح سوال‌های مختلف، دریافت بازخورد و حتی تمرینات بیشتر و رفع اشکال استفاده می‌کنند و معمولاً هم پیشرفت چشمگیری دارند.

بنابراین تجربه من به عنوان یک مشاور و تجربه مرکز مشاور فراخود همین امر را نشان می‌دهد که همه چیز به نوع استفاده دانش‌آموز از هوش مصنوعی بستگی دارد نه به فناوری هوش مصنوعی. نمونه آن هم کتاب حل‌المسائل است که نحوه استفاده از آن موجب می‌شود تبدیل به یک کتاب خوب یا بد شود و نمی‌توانیم به طور مطلق درباره این کتاب‌ها اظهار نظر کنیم. دانش آموزی که از این کتاب به درستی استفاده می‌کند، رشد کرده، بهتر می‌فهمد و می‌تواند سوالات پیچیده‌تر را حل کند و به یادگیری دانش آموزی که فقط برای نمره از آن استفاده می‌کند، کمک نمی‌کند.

وقتی یک جوان برای حل مساله، مستقیماً سراغ خروجی نهایی هوش مصنوعی می‌رود و مسیر رسیدن به جواب را دور می‌زند، چه بخش‌هایی از فرآیند طبیعی مغز برای «یادگیری عمیق» متوقف یا حذف می‌شود؟

یادگیری عمیق فقط به دانستن پاسخ سوال نیست، بلکه فرایندی است که فرد طی می‌کند تا به پاسخ سوال برسد. مغز ما برای اینکه به پاسخ یک سوال برسد فعالیت‌های مختلفی انجام می‌دهد. مثلاً اطلاعات گذشته را از حافظه بازیابی می‌کند، استدلال میکند، فرضیه‌سازی می‌کند و فراشناخت اتفاق میفتد.

پژوهش‌های جدید علوم یادگیری نیز نشان می‌دهند که همین فرایندهاست که موجب تثبیت یادگیری در حافظه بلند مدت می‌شود. مثلا اگر از هوش مصنوعی به عنوان یک مربی ورزشی که تمرین طراحی کند و اشتباهات را اصلاح کند استفاده شود، طبیعی است که فرد پیشرفت می‌کند. اما اگر قرار باشد وزنه را به جای ورزشکار بلند کند، دیگر عضله ساخته نمی‌شود. پس ما مربی نمی‌گیریم که به جای ما وزنه بزند، مربی می‌گیریم که به ما کمک کند چطور وزنه بزنیم.

بنابراین عملا فرایند طبیعی مغز در افرادی که فقط برای دریافت پاسخ از هوش مصنوعی استفاده می‌کنند، اتفاق نمیفتد، حافظه رشد نمی‌کند و یادگیری عمیق نمی‌شود. بنابراین باز هم تاکید می‌کنم مساله اصلی این نیست که استفاده کنیم یا نکنیم از هوش مصنوعی، بلکه مسئله اصلی این است که به هوش مصنوعی اجازه ندهیم که به جای ما فکر کند و فرایند فکر کردن را به جای ما پیش ببرد. بلکه بهتر است از آن عنوان یک مربی استفاده کنیم.

ما می‌دانیم که یادگیری اصولی نیازمند تحمل درجاتی از سختی، کلافگی و تلاش ذهنی است. وقتی ابزارهای هوش مصنوعی این سختی را از بین می‌برند، تاب‌آوری نسل جوان در برابر مشکلات پیچیده‌تر زندگی واقعی چه آسیبی می‌بیند؟

در روانشناسی یادگیری، مفهومی به نام دشواری‌های مطلوب داریم که همان تحمل درجاتی از سختی و تلاش ذهنی است که به آن اشاره کردید. بخشی از تلاش ذهنی، اشتباه کردن و روبه رو شدن با چالش‌های مختلف است که این امر برای یادگیری عمیق اتفاق ضروری است. هدف آموزش این نیست که یادگیری را دشوارتر کند، بلکه این است که تلاش ذهنی لازم برای یادگیری حفظ شود. اغلب مهارت‌ها با تمرین مستقیم ساخته می‌شوند، مثلا یک فرد تا زمانی که تمرین زیاد نکند تبدیل به یک نوازنده خوب پیانو نمی‌شود.

این نکته را باید یادآور شوم که در حال حاضر شواهد کافی مبنی بر اینکه هوش مصنوعی مستقیماً تاب آوری افراد در همه جنبه‌های زندگی را کاهش داده، وجود ندارد. اما شواهد موجود این را نشان می‌دهد که اگر استفاده از هوش مصنوعی جایگزین تلاش شناختی شود، طبیعتا فرصت تمرین مهارت‌هایی مثل حل مسئله، تحمل و پایداری ذهن کمتر خواهد شد.

 معمولا اولین واکنش در برابر فناوری‌های جدید، ممنوع سازی آن است. آیا ممنوع کردن استفاده از هوش مصنوعی در محیط‌های آموزشی راهکار درستی است یا باید سیستم ارزیابی و آموزش را متحول کنیم؟

به نظرم بر اساس شواهد موجودُ ممنوعیت کامل هوش مصنوعی در محیط آموزشی نه واقع بینانه است، نه از نظر آموزشی موثر است و نه حتی شدنی است. تجربه فناوری‌های گذشته هم نشان می‌دهد که ممنوعیت معمولاً استفاده از ابزار را متوقف نمی‌کند، بلکه آن را از فضای رسمی آموزشی به استفاده‌های غیر رسمی منتقل می‌کند که معمولاً هم خطرناکتر است. یکی از نمونه‌های آن ماشین‌حساب است.

زمانی که ماشین‌حساب وارد فضای آموزشی شد، بسیاری از افراد معتقد بودند که یادگیری ریاضی را ضعیف می‌کند، اما به تدریج نظام‌های آموزشی متوجه شدند که ماشین‌حساب مساله نیست، بلکه نوع استفاده از آن است که مهم است. در آزمون‌ها نیز زمانی که ارزیابی از محاسبات صرف به سمت استدلال و تحلیل و حل مساله حرکت می‌کند دیگر ماشین‌حساب یک تهدید نیست بلکه ابزاری مناسب برای کمک به حل مساله است.

این موضوع در مورد هوش مصنوعی هم صدق می‌کند. بنابراین اگر بخواهیم دانش‌آموزان را صرفا بر اساس پاسخ نهایی ارزیابی کنیم، طبیعتاً هوش مصنوعی پاسخ را تولید می‌کند و نتایجی که می‌گیریم نتایج بدی خواهد بود. اما اگر ارزیابی به سمت استدلال، توزیع فرایند تفکر، دفاع از پاسخ و انتقال آموخته‌ها برود، دیگر هوش مصنوعی آفت آموزش و ارزیابی نخواهد بود.

به نظرم در عصر هوش مصنوعی، مهارتی که باید چه به دانش‌آموزان و چه جامعه یاد بدهیم این است که بتوانند استفاده آگاهانه و مسئولانه از این فناوری داشته باشند. اگر سواد هوش مصنوعی فراگیر شود و مدارس، فضاهای آموزشی و رسانه‌ها به این سمت حرکت کنند آنگاه هوش مصنوعی یک ابزار بسیار کاربردی و کمک کننده خواهد بود که می‌تواند یادگیری را بهتر کند.