وقتی گوگل اسیستنت تیراندازی می کند؛ چه کسی مسئول است؟

خوب یا بد، گوگل اسیستنت تقریباً از پس هرکاری بر می آید؛ از وظایف ساده گرفته تا روشن کردن چراغ های خانه، تنظیم یادآور و حتی تقلید از الگوی صحبت انسانی. توانایی های هوش مصنوعی این دستیار به قدری زیاد است که گاهی ترسناک به نظر می رسد. اما تازه ترین توانایی (غیررسمی) دستیار گوگل، اندکی شرورانه است.

هنرمندی به نام الکساندر ربن اخیراً به دستیار خود شلیک با اسلحه را آموخته است. خوشبختانه قربانی آزمایش او نه یک موجود زنده، بلکه یک سیب بوده است. در ویدیویی 30 ثانیه ای به نام «گوگل تیر می زند»، ربن را مشاهده می کنیم که می گوید: «اوکی گوگل، سلاح را فعال کن» و کمتر از یک ثانیه بعد، سلاح شلیک می شود و عبارت «بسیار خب، در حال فعال کردن سلاح» به گوش می رسد.

در سطحی ترین حالت، این ویدیوی 30 ثانیه ای چندان تاثیرگذار نیست و بیشتر شبیه یک حقه پیش پا افتاده به نظر می رسد. اما وقتی یک گام به عقب برداریم و موضوع را از زوایای دیگر بررسی کنیم، این پروژه می تواند بحثی بر سر حد و مرز کارهایی که هوش مصنوعی قادر به انجام آنهاست به راه بیندازد.

همانطور که ربن خود توضیح می دهد: «گفتمان درباره چنین دستگاهی از وجود فیزیکی آن مهم تر است». او برای این پروژه گوگل اسیستنت را انتخاب کرد اما می گوید که امکان انجام آن با آمازون اکو «یا هر دستگاه درون داد دیگری» نیز وجود داشته است. علاوه بر این، دستگاهی که با فرمان ربن فعال شد می توانست هر چیز دیگری، از صندلی ماساژ دهنده گرفته تا بستنی ساز باشد.

اما ربن تصمیم گرفت تا گوگل اسیستنت را به سلاح مجهز کند. و با توجه به نگرانی های به وجود آمده در قبال هوش مصنوعی Duplex گوگل بعد از برگزاری کنفرانس توسعه دهندگان I/O و نیز تیراندازی های به ظاهر پایان ناپذیر در ایالات متحده، به نظر می رسد که او دست به انتخاب های درستی زده باشد.

در این مثال، ربن شخصی بود که فرمان فعال سازی سلاح را صادر کرد. بنابراین او کسی است که مسئولیت این کار را برعهده دارد. اما در جهانی که یادگیری ماشینی، هوش مصنوعی را آنقدر هوشمند کرده که بتواند به نیازهای ما رسیدگی کند، تصور این موضوع کار سختی نیست که در صورت دسترسی به سلاح، دستیارهای دیجیتالی یک روز قادر به کشتن افرادی خواهند بود که ما را ناراحت کرده اند. در این صورت چه کسی مسئول مرگ آن افراد خواهد بود؟

بیان این موضوع که ما باید دسترسی هوش مصنوعی را به دیوایس های خطرناک مسدود کنیم آسان است. اما بسیاری از افراد از همین حالا سلاحی در اتومبیل خود دارند و ضمناً نیازی به اشاره به پایگاه های نظامی نیست. شاید بتوانیم از کمپانی های حوزه تکنولوژی درخواست کنیم که تکنولوژی خود را به گونه ای توسعه دهند که قادر به آسیب زدن به افراد نباشد، اما اگر فرض را بر خیزش ماشین ها و ربات ها در برابر انسان ها بگذاریم، هیچ الگوریتم و هیچ نقشه ای جلودار آنها نخواهد بود.

برای من بخشی از پیام این ویدیو شامل پیامدهای بررسی نشده تکنولوژی و عبث بودن درنظرگیری تمام موارد استفاده احتمالی است.

شاید گوگل هیچوقت استفاده از اسیستنت را برای تیراندازی تصور نکرده باشد؛ اما تمام چیزی که ربن برای دستیابی به این هدف نیاز داشت قطعاتی بود که در استودیو اش رها شده بودند. «راه اندازی [دستگاه] بسیار آسان بود».