اخلاق در هوش مصنوعی؛ انسان دیگر نمی‌تواند از پاسخ به سوالات فلسفی چند هزار ساله فرار کند
رویداد «انسان و ماشین، از دوری تا دوستی» به میزبانی گروه وکتور و با هدف نگاهی به نقش سازنده هوش مصنوعی در کسبوکارها برگزار شد.
در دیجیاتو ثبت‌نام کنید
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوتازههای تکنولوژی
اخلاق در تکنولوژی و بالاخص هوش مصنوعی تبدیل به پرسشی با هزاران پاسخ شده است. متخصصان حوزه تکنولوژی در پنل رویداد گروه «وکتور» این موضوع را بررسی کردند. «امیرحسن موسوی»، مدیر ارتباطات سابق دیجی‌کالا ، اظهار داشت تا امروز بشر هیچ وقت برای سوالات بنیادین و فلسفی خود پاسخ قطعی و نهایی نداشته اما اکنون با ظهور مسأله هوش مصنوعی نیاز دارد به آنها پاسخ دهد و به نوعی سرنوشت هوش مصنوعی و آینده انسانی ما به همین پاسخ‌ها گره خورده است.
رویداد «انسان و ماشین، از دوری تا دوستی» به میزبانی گروه نوپای «وکتور» و با حضور بیش از 100 نفر از صاحبین کسبوکارها، رسانه‌ها و علاقه‌مندان به این حوزه، در خانه کارمان برگزار شد. هدف این رویداد نگاهی به جنبه‌های انسانی هوش مصنوعی و نقش سازنده آن در کسبوکارها بود.
پنل گفت‌وگو با حضور «علی خدایی»، مدیر گروه محصول گوگل، «وینا رحیمیان»، مدیر ارشد محصول اوتر لبز، «احسان موسوی»، راهبر هوش مصنوعی و یادگیری ماشین اپل و «امیرحسن موسوی»، دانشجوی دکترای فلسفه علم و تکنولوژی و مدیر ارشد ارتباطات سازمانی سابق دیجی‌کالا برگزار شد. مدیریت این پنل نیز با «کاوه یزدی‌فرد» بود.
اخلاق در هوش مصنوعی
بحث اخلاق در هوش مصنوعی یکی از موضوعات متداول این روزهاست. «امیرحسن موسوی» در این باره ابتدا به تفاوت سؤال‌های علمی و فلسفی اشاره کرد و گفت سؤالات علمی یک پاسخ مشخص دارند، به طور مثال آب در چند درجه به جوش می‌آید. اما به نظرش برای سؤالات فلسفی یک پاسخ قطعی و نهایی وجود ندارد و اصطلاحا این نوع پرسش‌ها، پرسش‌های باز یا چند نظامی است. مثلا برای سوال عمل اخلاقی چطور عملی است یک پاسخ نهایی وجود ندارد و بسته به مفروضات فلسفی و ارزش‌ها پاسخ‌ها به آن متفاوت است و پاسخ‌های آدم‌ها با رشد و عمیق‌تر شدن شناخت و دانش‌شان نیز تغییر می‌کند.
او با این پیش زمینه اظهار داشت در حوزه AI یک اتفاق خیلی جالب و هیجان‌انگیز و همزمان یک اتفاق نگران‌کننده در حال وقوع است:
اتفاق جالب این است که رشته‌های مختلف و متخصصان از حوزه‌های گوناگون حول موضوع AI گردهم آمده‌اند. از چند سال پیش شرکت‌های بزرگ تکنولوژی‌محور و دولت‌ها سرمایه‌گذاری‌های چند میلیارد دلاری در مورد جنبه‌های اجتماعی، اخلاقی، حقوقی و فلسفی AI و…. انجام دادند و پژوهش‌ها در این حوزه خیلی جدی‌تر از قبل شده است. همچنین افراد از رشته‌های مختلف همچون علوم اجتماعی، حقوق، فلسفه تکنولوژی، فلسفه اخلاق، علوم شناختی، علوم اعصاب، علوم کامپیوتر، فلسفه ذهن و… دور هم جمع شدند و روی جنبه‌های مختلف AI و آینده ما و AI فکر و پژوهش می‌کنند.
اما بخش نگران‌کننده AI چیست؟ سؤالات چند هزار ساله‌ای داشتیم که حل نشده باقی مانده بودند و انگار حالا دیگر وقت زیادی برای پاسخ به آن سوالات سرنوشت‌ساز برایمان باقی نمانده و حالا با ماشین‌های یادگیرنده‌ای مواجه شدیم که باید در مورد آن پرسش‌ها با آنها تعامل کنیم!
به گفته این دانش‌آموخته فلسفه علم، از زمان افلاطون و ارسطو ما با دوراهی‌های اخلاقی مواجه بودیم، اما اکنون AI یقه ما را گرفته است که بحث اخلاق در هوش مصنوعی را چطور حل کند و ما باید به هوش مصنوعی بگوییم در زمان این دوراهی‌ها که مثلا در اتومبیل‌های خودران واقعا ممکن است بوجود بیاید، چطور باید تصمیم بگیرد.
موسوی برای باز کردن موضوع، با اشاره به مسأله‌ای که با عنوان «مسأله تراموا؛ کشتن یک نفر برای نجات چهار نفر» یاد می‌شود، اظهار داشت رویکردهای اخلاقی به طور کلی به سه گروه می‌توان تقسیم کرد. در نتیجه‌گرایی اخلاقی، فرد به نتیجه عمل خود نگاه کرده و اگر خیر عمومی را بیشتر و رنج را کمتر کند، آن را کاری اخلاقی می‌داند. پس کشتن یک نفر کمتر از کشتن چهار نفر رنج در عالم ایجاد می‌کند و در این چارچوب اخلاقا باید کشتن یک نفر را به کشتن چهارنفر ترجیح دهیم (اگر هیچ انتخاب دیگری نباشد).
به گفته وی نوع دیگری از اخلاق نیز وجود دارد که از آن به به عنوان «وظیفه‌گرایی یا اخلاق وظیفه» یاد می‌شود، کانت می‌گوید «ما یک سری وظایف اخلاقی داریم که نباید از آنها تخطی کنیم. وظیفه من نکشتن است حتی اگر جهانی بهم بریزد، پس سوزن تغییر ریل را دست نمیزنم و در نتیجه در این شرایط چهار نفر کشته خواهند شد!
به باور این دانش آموخته فلسفه علم، اخلاق وظیفه ممکن است فجایعی را به بار بیاورد.
ترس قدیمی از تکنولوژی
امیرحسن موسوی در بخش دیگری از سخنان خود اعلام کرد ترس از تکنولوژی به دیرباز برمی‌گردد و در تاریخ تکنولوژی و قرن 17، ابزارهای مکانیکی که به نوعی اولین تجربه رباتیک بودند، بشر را با این ترس روبه رو ساختند که این ابزارها نکند روی ما مسلط شوند؟
به گفته وی تکنولوژی تا به امروز با تولید ابزارهایی مثل خودرو، هواپیما یا بیل مکانیکی، قدرت فیزیکی و سرعت بشر را بیشتر کرده‌اند و به نوعی امتداد قوای فیزیکی ما بودند، اما هوش مصنوعی دارد قوای ذهنی، شناخت و ادراک ما را از واقعیت امتداد می‌دهد: «از همین رو معلوم نیست ما را آدم‌های باهوش‌تری می‌کند یا خنگ‌تر؟»
موسوی در پاسخ به این سؤال که اساسا به چه سامانه‌ای هوشمند گفته می‌شود، اظهار داشت: «یک ساز و کار و سامانه‌ای که بتواند به سؤالات پیچیده پاسخ دهد یا از پس کارهای پیچیده بر بیاید را سامانه هوشمند خطاب می‌کنیم.»
او در راستای این سخنان با اشاره به اینکه ماشین حساب موجب شده تا دیگر ضرب و تقسیم نکنیم و امروز ما دیگرخودمان ضرب و تقسیم انجام نمی‌دهیم و در انجام این عمل به طور ذهنی ضعیف‌تر از گذشتگان هستیم. حال این سؤال مطرح است که اگر ادراک، شناخت، تشخیص زیبایی و فهم عالم را هم به تکنولوژی و مشخصا AI بسپاریم، آیا انسان بودن ما تغییر نمی‌کند؟
آیا هوش مصنوعی به آگاهی خواهد رسید؟
موسوی در بخش پایان سخنان خود به بحث آگاهی در انسان اشاره کرد و گفت: «سؤال «من» چه کسی هستم، سؤال خیلی مهمی در فلسفه است و آدم‌ها جواب‌های مختلفی به آن دادند. چهار-پنج سال دیگر اثری از مولکول‌هایی که امروز در بدن ما هستند، نیست که این شامل مغز ما هم می‌شود. اما «مَنی» را احساس می‌کنیم که اگر 36 سالم است انگار 36 سال با من است.»
او در همین رابطه توضیح داد:
«پاسخ فلسفه ذهن، مسأله ظهور ویژگی است که می‌گویند «من» یک ویژگی نوظهور از میلیاردها کانکشن است. «من» مظهر آگاهی و هوشمندی است، اما چیزی جز اتصال نورون‌ها نیست، وقتی تعداد نورون‌ها کنار هم زیاد می‌شود، سطحی از پیچیدگی ظهور می‌کند که آگاهی شماست. به طور مثال آب چیزی جز مولکول های آب نیست، اما آب ویژگی مایع بودن دارد. علیرغم اینکه به دانه دانه مولکول‌های آب نمی‌توانید مایع بودن را نسبت دهید، مجموع میلیاردها مولکول آب، ویژگی نوظهوری به وجود می‌آورد که به آن مایع می‌گوییم.»
او گفت گروهی از فیلسوفان ذهن بر این باورند «من» و آگاهی چیزی جز اتصال میلیاردها نورون نیست، اما این میلیاردها نورون زمانی که به هم متصل می‌شوند، ویژگی سطح بالاتری به نام آگاهی را به وجود می‌آورند، حال اگر این میلیاردها کانکشن در هوش مصنوعی هم به هم متصل شوند، آیا ممکن نیست ویژگی سطح بالاتری به نام آگاهی آنجا هم ظهور می‌کند؟
«کارایی مثبت یا منفی هوش مصنوعی حاصل رفتار ما است»
«علی خدایی»، مدیر گروه محصول گوگل در این پنل با اشاره به چند مثالی که ابزارهای هوش مصنوعی مثل چت جی‌پی‌تی موجب تسهیل کارها شدند، گفت این ابزارها دسترسی ما به اطلاعات را سریع‌تر می‌کنند:
«اگر شما در یک حوزه خاص تجربه نداشته باشید، نوع استفاده‌تان از هوش مصنوعی فرق می‌کند. اما برای من شبیه یک کارآموز خیلی خوب است که در کنارم برخی از کارهایم را انجام می‌دهد.»
به باور وی پاسخ به این سؤال که هوش مصنوعی تنبل می‌کند یا خیر، به خود انسان‌ها باز می‌گردد: «از نظر فردی باید انتخاب کنم تنبل شوم یا یک سری کارهای روتین ساده را به هوش مصنوعی بسپارم و خودم سراغ توانایی‌های جدیدی بروم؟ تفکر انتقادی‌ام را از دست بدهم یا حفظ کنم؟ الان در دو راهی هستیم که هر کسی انتخاب خود را دارد.»
خدایی این شرایط را برای کسبوکارها نیز به صورت مشابه تصویر کرده و گفت به طور مثال، شرکت متا می‌تواند از هوش مصنوعی برای بهینه کردن اینستاگرام استفاده کند: «حال می‌توان کاری کرد که کاربر وقت بیشتری را در اینستاگرام بگذراند و شاهد شکل‌گیری یک سری معتاد به شبکه اجتماعی باشیم که فقط تایم‌لاین را بالا و پایین می‌کنند، یا اینستاگرام به دنبال این هدف برود که آدم‌های بیشتری را به هم وصل کند و خدمت بهتری به جامعه ارائه دهد.»
«وینا رحیمیان»، مدیر ارشد محصول شرکت «اوتر لبز» نیز با تأکید بر اینکه چت جی‌پی‌تی کارها را خیلی راحت کرده است، اظهار داشت بحث قانع کردن مشتریان برای استفاده از هوش مصنوعی در محصولات بسیار حائز اهمیت است:
«وقتی قصد داریم از AI در محصولمان استفاده کنیم باید به مشتری بگوییم چقدر به درد او خواهد. باید به چراهای بسیاری نیز پاسخ دهیم که قرار است چه مشکلی را از کاربر حل کند یا چه ارزش افزوده‌ای را به محصول اضافه کند؟»
به گفته وی زمانی که قرار است محاسبات در یک محصول به هوش مصنوعی سپرده شود، برای مشتریان اهمیت می‌یابد که هوش مصنوعی چطور قرار است این محاسبات را انجام دهد چرا که قرار است با داده‌های نهایی، تصمیم‌های استراتژیک بگیرند.
«از هوش مصنوعی به زور استفاده نکنیم»
«احسان موسوی»، راهبر هوش مصنوعی و یادگیری ماشین اپل اعتقاد دارد کسبوکارها در استفاده از ابزار و تکنولوژی نباید هیجان زده شده و به صورت مصنوعی از آنها در کارشان استفاده کنند: «تکنولوژی در درجه اول بایستی یک نیاز واقعی را رفع کند.»
او اعتقاد دارد شرکت‌ها برای کاهش ریسک سرمایه‌گذاری در حوزه هوش مصنوعی بایستی استراتژی‌شان به گونه‌ای باشد که با دقت 50 درصد هم بتوانند ارزش افزوده‌ای به محصولات خود اضافه کنند:
«اوبر قصد داشت تا ماشین‌های خودران را توسعه دهد، اما برای این مهم باید به ماشینی با دقت صددرصدی برسد، در حالی که یک شرکت تولید خودرو می‌تواند از هوش مصنوعی به حالتی استفاده کند که تا 50 درصد به راننده برای رانندگی بهتر کمک کند و نیاز به تحقق 100 درصدی نیست.»
موسوی با باور به اینکه هوش مصنوعی در حال حاضر آنقدرها هم باهوش نیست، گفت AI اکنون کارهایی را خوب انجام می‌دهد که پرتکرار باشد: «امروز نباید انتظار خلاقیت زیادی از هوش مصنوعی داشته باشیم.»
آخرین بار کی از هوش مصنوعی استفاده کردید؟
در بخش دیگری از این رویداد، «نوید شهدی» هم‌بنیان‌گذار وکتور، از حاضرین پرسید که آخرین بار چه زمان از هوش مصنوعی استفاده کرده‌اند. حاضرین می‌توانستند با استفاده از کیو آر کدی که در اختیار آنها قرار گرفته بود، به این سؤال پاسخ دهند.
پس از بررسی تجربه استفاده و میزان آشنایی افراد با هوش مصنوعی، نوید شهدی مثال‌ها و تجربیاتی در حوزه‌های مختلف استفاده‌های انسانی هوش مصنوعی مطرح کرد. اعتماد به ماشین، منابع انسانی، اخلاق و حقوق، عدالت اجتماعی، هنر و خلاقیت و … از جمله موارد استفاده انسانی از هوش مصنوعی بودند.
پس از آشنایی با جوانب انسانی هوش مصنوعی نیز تاریخچه، روند و کارکردهای AI بیان شد؛ کارکردهایی که از علم پزشکی تا اقتصاد گسترش یافتند و روز به روز بر تعداد آنها افزوده می‌شود.
آیا نگرانید هوش مصنوعی بیکارتان کند؟
در بخش دیگری از این رویداد نیز به دغدغه مورد توجه این روزهای افراد در خصوص «ترس از دست دادن حرفه‌شان» پرداخته شد.
بیش از نیمی از حاضرین اهمیت و سرعت بالای رشد و توسعه هوش مصنوعی را درک کرده‌اند و تا حدی نگران تاثیرات این موضوع بر حرفه خود هستند. سپس در این رویداد مثالی واقعی نیز در مورد شرکت آی‌بی‌ام (IBM) که حدود 8000 عنوان شغلی را با استفاده از هوش مصنوعی با موارد جدیدی جایگزین خواهد کرد، بیان شد و در ادامه به فرصت ایجاد مشاغل و حرفه‌های جدید به واسطه پیشرفت این علم در همه حوزه‌های انسانی پرداخته شد.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.