اثرگذاری حکمرانی هوش مصنوعی بر آینده بشر در کنفرانس بین‌المللی تحول دیجیتال بررسی شد

دانشگاه تهران کنفرانس بین‌المللی و پنجمین ارزیابی ملی تحول دیجیتال را در روزهای 15 و 16 شهریور ماه امسال با حمیات همراه اول و ایرانسل برگزار می‌کند. این کنفرانس بخش‌های مختلف تحول دیجیتال را مورد واکاوی و بررسی قرار خواهد داد و به ارائه مقاله‌ها و پنل‌های تخصصی در این حوزه می‌پردازد. این کنفرانس در پنج محور تحول دیجیتال را در ایران و جهان مورد بررسی قرار خواهد داد. دوشنبه 15 شهریور ماه کاربرد فناوری‌های تحول آفرین در صنعت، داده و تحول دیجیتال و همچنین منابع انسانی دیجیتال مورد بررسی قرار گرفتند. روز دوم این کنفرانس بین‌المللی نیز نوآوری و کارآفرینی دیجیتال و همچنین پیاده سازی و راهبری تحول دیجیتال مورد بررسی قرار خواهد گرفت.

اولین پنل تخصصی این کنفرانس بین‌المللی، پنل تخصصی توسعه و حکمرانی هوش مصنوعی در صنعت بود. این پنل با حضور «مهدی محمدی»، عضو هیئات علمی دانشکده مدیریت دانشگاه تهران، «مجید نیلی احمدآبادی»، عضو هیئات علمی دانشگاه تهران و «بابک عابدی» عضو هیئات علمی دانشگاه  مک‌کواری استرالیا روز گذشته در کنفرانس بین‌المللی تحول دیجیتال برگزار شد. اعضای این پنل با بررسی هوش‌مصنوعی در توسعه سلامت، آموزش و جایگاه اخلاقیات انسانی در ارزش‌گذاری‌های برنامه‌هایی اجرایی با هوش مصنوعی چشم‌انداز و آینده این صنعت را مورد واکاوی قررارداده و جریان حکمرانی هوش‌مصنوعی را تحلیل کرند.  

مهدی محمدی، مجری این پنل و دبیر ستاد اقتصاد‌دیجیتال معاونت علمی و فناوری ریاست جمهوری در ابتداد با اشاره به پارادایم نوین فناوری به تغییرات اساسی در نوع نگاه به فناوری و جامعه اشاره کرد. به اعتقاد او فناوری هوش مصنوعی یکی از مهم ترین فناوری‌هایی است که در روند حکمرانی امروز جامعه باید مورد توجه قرار گیرد.

بابک عابدی، عضو هیئت علمی دانشگاه مک کواری سیدنی استرالیا در بخش ابتدایی پنل تخصصی توسعه و حکمرانی هوش مصنوعی با ارائه مقاله‌ای که حاصل تجربیات و مشاهدات شخصی او از اهمیت هوش مصنوعی در استرالیا بود پرداخت و گفت: «زمانی که از حکمرانی هوش مصنوعی می‌گوییم ذهن درگیر پیچیدگی و تازگی این فناوری می شود. همان طور که 20 سال قبل هم درباره فناوری اطلاعات نگران پیچیدگی‌ها و چگونگی اجرای فناوری در زندگی روزمره و برنامه‌های کلان بودیم، حالا فناوری هوش مصنوعی برای ما سوال برانگیز و دارای ابهام است.»

عابدی با اشاره به اینکه حکرمانی هوش‌مصنوعی را با بررسی تعریف این موضوع می‌توان مورد تحلیل قرار داد افزود: «با برگشت به اصل این موضوع بهتر است به اصل تعریف حکمرانی بازگردیم. حکمرمانی از سازمان و واحدی تشکیل می شود که افراد را مسئول خروجی از سازمان می داند. در حکمرانی دانستن و پذیرش مسئولیت اهمیت قابل توجهی دارد. همچنین اینکه خطر پذیری بر چه اساسی است و در مقابل آن چه باید کرد. نکته بسیار مهم و قابل توجه در این تعریف آن است که حکمراتی ارتباطی نزدیک و بسیار جدی با مقوله مسئولیت پذیری دارد.»

او در ادامه با اشاره به تعریف هوش‌مصنوعی گفت: «در حقیقت هوش مصنوعی همان هوشی است که توسط ماشین ارائه می شود. انسان‌ها همه تلاش خود را می کنند که فناوری هوش مصنوعی محیط را به بهترین شکل درک کند. در این مرحله برای درک عملکرد هوش مصنوعی ذره بین مثال خوبی است. ذره ببین هر آن چیزی را که با چشم غیر مصلح مشاهده می‌کنید، در ابعاد بزرگت‌تر و با وضوح بیشتر، نشان می‌دهد. از همین رو استفاده از هوش مصنوعی نیز از این رو بود که کارهایی که انسان قادر به انجام آن است به بهترین شکل و با کیفیت بالاتری انجام دهیم.»

اخلاق یا کیفیت عملکرد

عضو هیئت علمی دانشگاه مک کواری سیدنی استرالیا، با بیان اینکه دو طیف در مقابل دانش هوش مصنوعی وجود دارد، گفت: «یک طیف هوش مصنوعی را جعبه سیاهی ناشناخته می دانند که امور را به بهترین شکل انجام دهد. این تفکر داخل جعبه سیاه و چگونگی عملکرد را مورد توجه قرار نمی‌دهد. هر آنچه در این رویکرد اهمیت دارد اجرای برنامه‌های محول شده به هوش مصنوعی با بیشترین کیفیت است. اما طیف یا تفکر علوم انسانی موضوع را با دیدگاه دیگیری بررسی می کند. در این رویکرد چگونگی واکنش‌های هوش مصنوعی و تصمیماتی که می‌گیرد، اهمیت قابل توجهی پیدا می‌کند. این گروه آنچه پیرامون هوش مصنوعی اهمیت دارد آن است که مدیریت حکمرانی را چگون انجام دهیم. در حال حاضر هم تحقیقات به طور عمومی بین این دو طیف انجام می شود.»

شرکت هایی مثل تسلا یا اپلیکیشن هایی که امور شما را مدیریت می کنند بر اساس جعبه سیاه امور را انجام می دهند. جالب است بدانید که تمایل سازمان ها در نهایت به باقی ماندن جعبه سیاه است. این در حالی است که نهادهای قانون گذار به شفاف سازی تمایل دارند. عابدی با بیان این موضوع در ادامه گفت: «تقابلی بین انسان و ماشین وجود دارد. نباید برای حکمرانی بر هوش مصنوعی تمرکز کرد، بلکه باید بر انسان و اخلاقیات انسانی تمرکز کرد. اگر تفکر سالم و درست باشد این تفکر به ماشین هم وارد می شود. این در حالی است که اگر تفکر سازنده هوش مصنوعی خطرناک و آسیب زننده باشد این تفکر آسیب زننده به هوش مصنوعی هم منتقل می‌شود.»

او با اشاره به اینکه در کشورهای مختلف دولت ها به سمتی می‌روند که با توجه به اخلاقیات استفاده از هوش مصنوعی را اجرایی کنند، مثالی درباره تصادف خودرویی با هوش مصنوعی را بیان کرد و گفت: «در یک تصادف بیمه باید امکان و توانایی تشخیص دهد که مشکل کجاست؟ در صورت پیدا کردن مشکل امکان تصمیم‌گیری بر پایه اخلاقیات و رفتارهای انسانی هم ممکن خواهد شد. از همین رو است که نهادهای قانون‌گذار و دولت بر عملکرد و چگونگی تصمیمات هوش مصنوعی تمرکز بیشتری می‌کنند.»

به گفته عابدی بحث ارائه داده‌های شفاف و امنیت داده در این مرحله بسیار مهم و قابل توجه است. برای مثال اگر خودرو هوشمند تصادف کرد سیستم دلیل این موضوع را توضیح دهد. ارائه توضیح از طرف سیستم گاهی سرعت هوش مصنوعی را کاهش می دهد اما این موضوع باعث شفاف سازی خواهد شد. در سراسر دنیا به این درک رسیده اند که باید به اصولی جهان شمول دست پیدا کنیم. هوش مصنوعی خود به تنهایی خطرناک نیست اما تفکری که این هوش مصنوعی را ساخته و مدیریت می کند اهمیت دارد. از همین رو است که اخلاقیات هوش مصنوعی اهمیت بسیار ویژه ای دارد و باید ارزش های انسانی را مورد توجه قرار داد. امنیت داده‌ها، شفافیت و مسئولیت پذیری هوش مصنوعی و همچنین اجرای درست آن در شرایط فعلی بسیار مهمم و قابل توجه است.»

همچنین او با بیان اینکه در سال 2019 این اصول اخلاقی برای توسعه هوش مصنوعی در استرالیا عنوان شد، گفت: «در آینده این موضوع به قانون تبدیل خواهد شد و برای شرکت‌ها اثرگذاری قابل توجهی خواهد داشت. در چنین شرایطی، شرکت‌هایی که تا امروز روند هوش مصنوعی را بر اساس اخلاق انسانی پیش‌برده‌اند، کمتر دچار مشکل خواهند شد. این در حالی است که بازآفرینی دوباره محصولات مبتنی بر هوش مصنوعی بی‌توجه بر اخلاق انسانی به طور قطع هزینه‌های بسیا سنگینی را به شرکت‌ها تحمیل خواهد کرد.»

هوش مصنوعی چطور به توسعه آموزش کمک می‌کند؟

مجید نیلی احمدآبادی، عضو هیئات علمی دانشگاه تهران در بخش دوم این پنل تخصصی مقوله سلامت و آموزش مبتنی بر هوش مصنوعی را مورد تحلیل و واکاوی قرار داد. همچنین در این مرحله این پرسش مطرح است که آیا تحولی جدی را در بحث آموزش مبتنی بر هوش مصنوعی خواهیم دید و دوران کرونا این تحول را سرعت بخشید؟ همچنین باید به این موضوع نیز توجه کرد که آموزش در اکثر کشورها در کنترل حاکمیت بوده و حاکمیت تغییرات و تصمیمات سیاسی و اجتماعی خود را از این طریق ارائه داده است.

نیلی با بیان اینکه در حال حاضر نیازهای جامعه تحول قابل توجهی با گذشته داشته است. بنابراین باید محتوای آموزشی را تغییر جدی دهیم، گفت: «در حال حاضر دیدگاه ما نسبت به یادگیری با تغییراتی مواجه شده است. بنابراین جامعه را باید با موضوعات پیچیده آماده کرد. حالا این اطلاعات را در کنار کاهش منابع مالی قرار دهید. در حال حاضر از آنجایی که هزینه آموزش را افراد پرداخت می کنند نسبت به کیفیت آموزش حساسیت بیشتری پیدا می کنند. از همین رو دیگر ارائه آموزش با هر کیفیتی نیازهای جامعه را برطرف نمی‌کند.»

او با تاکید بر اینکه در جامعه امروز افراد باید در طول زندگی یادگیری داشته باشند، تفکر انتقادی داشته باشند و در کارهای گروهی هم توانمند باشند، گفت: «تا امروز در صنعت آموزش به تفاوت های فردی توجه قابل توجهی نمی شد. این در حالی است که امروزه احترام به تفاوت‌های فردی ارزشمند شده و برای شکوفایی استعدادها باید به سراغ شخصی سازی برویم. آموزش باید حلقه بسته و خود سامانده باشد. هوش مصنوعی ارائه دهنده آموزش باید اطلاعات درست درباره دریافت کننده آموزش به مربی ارائه دهد. این داده های بسیار شخصی باید وارد سیستم آموزشی شود و با استفاده از هوش مصنوعی تاریخچه قابلیتی افراد به مربیان ارائه شود.»

عابدی با اشاره به این موضوع که این روند آموزش را از کنترل سیستم های دولتی خارج می کند و اتکا به معلم و نیازهای حاکمیتی را کاهش خواهد داد، افزود: «از همین رو به نظر می‌رسد دولت‌ها نسبت به توسعه آموزش مبتنی بر هوش مصنوعی اقبال ویژه‌ای نداشته باشند.»

بهره وری از هوش مصنوعی در بهبود سلامت روان جامعه

او در بخش دیگری از توضیحات خود یکی دیگر از کاربردهای هوش مصنوعی در بخش سلامت را مورد بررسی قرار داد و افزود: «همچنین کاربرد دیگر روانپزشکی محاسبات فردی و اجتماعی است. این علم با سیستم بسیار پیچیده ای مواجه است. تجربه نشان داده که روانپزشکان در پی مصاحبه های کوتاه نمی توانند نتیجه مطلوبی دریافت کنند. از طرفی تعداد افراد مبتلا به مشکلات روحی و روانی در دنیا بسیار افزایش پیدا کرده و به شکل قابل توجهی نیز هر روز در حال افزایش است.»

در حال حاضر تلاش‌های توصعه هوش مصنوعی در این راستا است که با امکان رصد مدام و استفاده از کلان داده ها بتوانیم راهکارها و درمان هایی مناسب جامعه امروز ارائه دهیم. با استفاده از این روند نتیجه نهایی فقط مبتنی بر دارو درمانی نیست. البته این موضوع در جریان‌های اجتماعی نیز وجود دارد. با استفاده از تحلیل های شبکه‌های اجتماعی می توان نبض جامعه را گرفت و کنترل از دست حاکمان خارج می شود. روش های بسیار جدیدی با توجه به این داده‌ها در نهایت ارائه می شود. این در حالی است که که بر خلاف بسیاری از حوزه های هوش مصنوعی، در این روند علاوه بر اینکه هر فرد مصرف کننده است به یک تولید کننده هم تبدیل خواهد شد. شاید همین موضوعات باعث شده تا حاکمان نسبت به توسعه هوش مصنوعی نگاه و رویکرد متفاوتی داشته باشند.»

اثرگذاری هوش مصنوعی در اقتصاد جهانی

سومین بخش از ارائه مقاله در این پنل تخصصی توسط مهدی محمدی به بررسی تولید اطلاعات توسط بشر در چند سال اخیر و اثر گذاری آن در جریان توسعه هوش مصنوعی اختصاص داده شد. او با اشاره به اینکه پارادایم فناوری و نسل جدید صنعت، بارمعنایی ویژه ای دارند به اثر گذاری هوش مصنوعی و مواجهه با روندی جدید اشاره کرد و گفت: «بازه زمانی 2018 تا 2020،  80 درصد داده های کل عمر بشر تولید شده است. جالب است بدانید که حجم تولید اطلاعات بشر تا سال 2035 بسیار افزایش پیدا خواهد کرد. این داده ها بر همه بخش های هوش مصنوعی اثر خواهد داشت. اثرگذاری تولید انبوه داده‌ها بر جریان اقتصادی بسیار قابل توجه است. بر اساس مطالعات انجام شده  میزان اثر گذاری هوش مصنوعی در تولید ناخالص داخلی جهان تا سال 2030 به بیش از 15 هزار میلیارد  دلار خواهد رسید. همچنین 60 درصد آن از طریق مصرف و 40 درصد آن از طریق بهره‌وری است.»

همچنین محمدی با تاکید بر اینکه اگر پنجره فرصت ساخته شده با هوش مصنوعی مورد توجه قرار نگیرد از جریان مهمی جا خواهیم ماند، گفت: «در حال حاضر براورد اقتصاد دیجیتال کشور بیشتر در لایه های ابتدایی همچون مخابرات است. این در حالی است که سهم اقتصاد دیجیتال در جهان هر روز در حال افزایش است. در آینده‌ای نزدیک در دنیا دیگر حتی صنعت فولاد غیر هوشمند هم نخواهیم داشت و سلامت غیر هوشمند هم دیگر بی معنی خواهد شد. در شرایطی که اطلاعات و داده های قابل توجهی از هر فرد وجود دارد، این موضوع بسیار بسیار ممکن و نزدیک است.»

محمدی با بیان اینکه به هر حال در این روند چالش‌های بسیار جدی و مهمی نیز وجود دارد گفت: «چالش هم‌پایی و هم‌تکاملی فناوری و نهادی اولین چالشی است که اتفاقا با سخت شدن فرایند هم‌تکاملی فناوری و نهادها ادامه پیدا خواهد کرد. همچنین جچالشش طراحی متناسب با هدف که منجر به عدم امکان تحلیل مبتنی بر مکانیزهای سنتی بازار و حتی تحلیل‌های تولید محصول خواهد شد. همچنین اجرای مقررات و مسئولیت پذیری و از بین رفتن مرزهای نهادی و ساختاری نیز دولت‌ها و حاکمیت‌ها را با چلش‌هایی مواجه خواهد کرد.»

او با اشاره به اینکه سرعت توسعه هوش مصنوعی در آینده‌ای نزدیک به قدری بالا می رود که دولت ها نمی توانند قوانین را تطبیق دهند، گفت: «این نکته را در جریان حاکمیت هوش مصنوعی باید مورد توجه قرار داد که به هر حال زمانی که فناوری چند وجهی می شود اصلا هدف روشن نیست و از همین رو نمی توان قانون گذاری کرد. از طرفی دیگر زمانی که جهان تا این اندازه به هم متصل می شود دیگر سیاست گذاری منطقه ای وعمومی زیر سوال می رود. چالش‌های پیش روی حریم خصوصی و امنیت داده و اطلاعات نیز بخش دیگری از چالش‌هایی است که در دنیای مبتنی بر هوش مصنوعی با آن روبرو خواهیم شد.»

محمدی با اشاره به اینکه دو گانه اخلاقیات و دسترسی آزاد باید مورد توجه قرار گیرد، گفت: «تفکیک و شناخت مسائل در زمان حکمرانی هوش مصنوعی به طور قطع دشواری‌های خاصی خواهد داشت. در این روند حتی شناخت و تفکیک افراد شاغل و بیکار دشوار خواهد شد و در نتیجه بررسی تامین اجتماعی با چالش‌هایی همراه خواهد بود. انحصار پلتفرم و تاثیرات آن بر رقابت، شفافیت و حتی مکانیرم های مشارکت و دموکراسی نیز تنها بخشی از مسائلی است که در مدیریت حکمرانی باید توجه جدی به آن کرد. به هر روی ما در آینده با چالش های جدی درباره مدیریت حکمرانی مواجه خواهیم شد.»

تلاش برای اجرای برابری

عابدی در بخش پایانی این پنل بار دیگر بر اهمیت اجرای اخلاقیات تاکید کرد و گفت: « این نکته را بابد مورد توجه قرار داد که سیستم ها عمدتا توسط مردها طراحی شده و تفکر مردانه به آن وارد شده است. حالا باید دید برابری جنسیتی را چگونه می توان به این موضوع وارد کرد. حالا می توان این موضوع را به کاربردهای حساس مختلف بسط داد. از همین رو است که باید روی انسان در همه مراحل هوش مصنوعی تمرکز کرد.»

از سویی دیگر نیلی با اشاره به تغییرات پیش آمده در روند تغییر تمدن‌ها در زمان حکمرانی هوش مصنوعی گفت: «شکل گیری تمدن ها با توجه به هوش مصنوعی در حال تغییر است و پای تمدن ها حالا دیگر بر روی خاک نیست و باید این موضوع را بسیار مورد توجه قرار داد.»