محققان با روشی جدید مانع از هک شدن هوش مصنوعی می‌شوند

محققان در ایالات متحده آمریکا توانسته‌اند مشکل حمله هکرها به مدل‌های هوش مصنوعی را برطرف کنند. آن‌ها برای دستیابی به این هدف، از مدل دیگری برای فریب شبکه عصبی و اجبار برای تحلیل تصاویر ویرایش شده استفاده کردند.

بنابر گزارش MIT Technology Review، محققان در دانشگاه «ایلینوی» اعلام کرده‌اند یکی از بزرگترین نقص‌ها در آموزش هوش مصنوعی، آسیب‌پذیری آن‌ها در برابر حملات هکرها است. در این زمینه سیستم‌های تشخیص عکس یا بازسازی تصاویر با بیشترین حملات مواجه می‌شوند.

حملات گسترده به این سیستم‌ها زنگ خطری برای مقامات در بخش مراقبت‌های پزشکی محسوب می‌شود، جایی که اغلب این روش برای بازسازی تصاویر پزشکی مورد استفاده قرار می‌گیرد. در صورتی که هوش مصنوعی تصویر اشتباهی دریافت کند، نتیجه آن تشخیص غلط نوع بیماری خواهد بود.

malltina

برای جلوگیری از چنین مشکلی، دانشمندان روش جدیدی برای آموزش سیستم‌های یادگیری عمیق ارائه کرده‌اند که آن‌ها را در برابر خطا مقاوم‌تر می‌کند و همچنین آن‌ها را در زمانی که مسائل امنیتی اهمیت بالایی دارند، قابل اطمینان‌تر می‌کند.

هوش مصنوعی

محققان برای دستیابی به این روش، شبکه عصبی مسئول بازسازی تصاویر را به یک مدل با امکان تولید نمونه‌های رقابتی (تصاویر با تفاوت‌های اندک نسبت به عکس‌های اصلی) متصل کردند. در طی آموزش، یکی از هوش‌های مصنوعی بدنبال فریب دیگری با نمایش تصاویر متفاوت نسبت به نمونه‌های اصلی بود.

در طی این آزمایش، مدل مخصوص بازسازی تصاویر دائما در حال تحلیل تصاویر بود تا بتواند تغییرات در آن‌ها را تشخیص دهد و متوجه شود با یک تصویر ویرایش شده روبه‌رو است یا خیر. در نهایت این سیستم توانست تمام تصاویر ویرایش شده را شناسایی کند که از عملکرد بهتر آن نسبت به سایر شبکه‌های عصبی خبر می‌دهد.

دانشمندان در هنگام آزمایش‌ها سعی کردند به صورت دستی سیستم را هک کرده و تصاویر ویرایش شده را به آن نشان دهند که تمام آن‌ها از سوی هوش مصنوعی رد شدند.

مطالب مرتبط

تولید پروتئین‌های مصنوعی و مفید با کمک هوش مصنوعی ممکن شد

پروتئین‌ها برای سلول‌ها ضروری هستند و کارهای مهمی را برعهده دارند. دانشمندان و مهندسان در سال‌های اخیر بدنبال طراحی پروتئین مصنوعی برای انجام وظایف مختلف مانند درمان بیماری بوده‌اند و حالا تیمی از مهندسان توانسته‌اند یک هوش مصنوعی با چنین قابلیتی توسعه دهند.این دستاورد مهندسان می‌تواند روی خدمات بهداشتی، کشاورزی و بخش انرژی تاثیرات زیادی... ادامه مطلب

توسعه هسته تنسور فوتونیک که از یادگیری ماشینی با سرعت نور پشتیبانی می‌کند

محققان اخیرا به یک دستاورد بزرگ در زمینه هوش مصنوعی دست پیدا کرده‌اند و برای انجام محاسبات یادگیری ماشینی بجای الکتریسیته، به سراغ نور رفته‌اند.این رویکرد جدید سرعت و راندمان یادگیری ماشینی در شبکه‌های عصبی را بهبود می‌دهد. این شبکه‌ها نوعی از هوش مصنوعی محسوب می‌شوند که هدف از توسعه آن‌ها، تکرار فعالیت‌هایی است که... ادامه مطلب

مایکروسافت قابلیت تصحیح تماس چشمی را برای سرفیس پرو X منتشر کرد

مایکروسافت فناوری تماس چشمی این شرکت که با استفاده از هوش مصنوعی جهت نگاه کاربر را به سمت لنز دوربین تصحیح می‌کند، سرانجام برای سرفیس پرو X منتشر کرد.مایکروسافت مهر ماه سال ۹۸ از Eye Contact به عنوان یکی از قابلیت‌های انحصاری لپ تاپ سرفیس پرو X رونمایی کرد. به گفته مایکروسافت این قابلیت با... ادامه مطلب

رقیب MIT و استنفورد؛ اریک اشمیت دانشگاهی جدید برای برنامه‌نویس‌ها می‌سازد

یک کمیسیون فدرال ایالات متحده آمریکا که توسط مدیرعامل سابق گوگل، «اریک اشمیت» و قائم مقام سابق وزارت دفاع این کشور، «رابرت او. ورک» مدیریت می‌شود، بدنبال تاسیس یک دانشگاه برای آموزش نسل آینده برنامه‌نویس‌های دولتی است.به گزارش Medium، این دانشگاه که «U.S. Digital Service Academy» نامگذاری می‌شود، یک مرکز آموزشی معتبر خواهد بود که... ادامه مطلب

قابلیت فوق العاده مدل پردازش زبان GPT-3: تولید کد سایت از روی توضیحات

نسخه بتای مدل پردازش زبان جدید شرکت OpenAI در دسترس عده محدودی از تسترها قرار گرفته و قابلیت‌های فوق العاده آن تحسین بسیاری از آن‌ها را برانگیخته است.این مدل که Generative Pretrained Transformer یا به اختصار GPT-3 نام دارد، ابزاری است که جملات، متن‌ کوتاه و داده‌های دیگر را تحلیل کرده و با استفاده از... ادامه مطلب

هوش مصنوعی مایکروسافت و ارتقای کیفیت تصاویر دوربین سلفی زیر نمایشگر

شرکت‌های مختلفی در حال کار روی دوربین سلفی زیر نمایشگر هستند، با این حال همچنان چالش‌هایی در این زمینه وجود دارد که هوش مصنوعی مایکروسافت می‌تواند یکی از آن‌ها را رفع ‌کند.در حال حاضر سازندگان گوشی‌های هوشمند دوربین سلفی را در بخش‌های مختلفی قرار می‌دهند. تعدادی از آن‌ها به سراغ دوربین سلفی پاپ آپ رفته‌اند،... ادامه مطلب

نظرات ۰

وارد شوید

برای گفتگو با کاربران، وارد حساب کاربری خود شوید.

ورود

رمزتان را گم کرده‌اید؟