ثبت بازخورد

لطفا میزان رضایت خود را از دیجیاتو انتخاب کنید.

واقعا راضی‌ام
اصلا راضی نیستم
چطور میتوانیم تجربه بهتری برای شما بسازیم؟

نظر شما با موفقیت ثبت شد.

از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنید
از شما سپاسگزاریم.

کشف 20 باگ امنیتی توسط هوش مصنوعی گوگل
امنیت

گوگل از کشف 20 آسیب‌پذیری امنیتی توسط هوش مصنوعی خود خبر داد

هوش مصنوعی Big Sleep برای نخستین بار 20 آسیب‌پذیری نرم‌افزاری را بدون دخالت انسان شناسایی کرد.

مهدی فروغی
نوشته شده توسط مهدی فروغی | ۱۴ مرداد ۱۴۰۴ | ۱۸:۰۰

گوگل اعلام کرده که باگ هانتر یا شکارچی باگ هوشمند این شرکت به‌نام Big Sleep توانسته 20 آسیب‌پذیری امنیتی را کشف و گزارش کند.

براساس گزارش‌ها، این ابزار پیشرفته که توسط تیم هوش مصنوعی گوگل، DeepMind، و تیم هکرهای خبره Project Zero توسعه یافته است، نخستین بار این نقص‌ها را در نرم‌افزارهای متن‌باز محبوب مانند کتابخانه صوتی و تصویری FFmpeg و نرم‌افزار ویرایش تصویر ImageMagick شناسایی کرده است.

کشف 20 باگ امنیتی توسط هوش مصنوعی گوگل

«هدر آدکینز»، معاون بخش امنیت گوگل، می‌گوید درحال‌حاضر جزئیات دقیقی درباره شدت و تأثیر این آسیب‌پذیری‌ها منتشر نشده، چرا که گوگل منتظر رفع مشکلات امنیتی است. این روال مطابق با سیاست‌های معمول در حوزه امنیت است که ابتدا نقص‌ها اصلاح شوند و سپس جزئیات عمومی اعلام گردد. بااین‌حال، کشف این 20 آسیب‌پذیری توسط Big Sleep نشان‌دهنده توانمندی بالای ابزارهای مبتنی بر هوش مصنوعی در زمینه امنیت سایبری است.

کشف 20 باگ امنیتی توسط هوش مصنوعی گوگل

«کیمبری سامرا»، سخنگوی گوگل، در مصاحبه با TechCrunch توضیح داد که هرچند عامل هوش مصنوعی بدون دخالت انسانی این آسیب‌پذیری‌ها را شناسایی و بازتولید کرده، اما پیش از گزارش نهایی، یک متخصص به دقت نتایج را بررسی و تأیید کرده تا اطمینان حاصل شود که کیفیت و صحت گزارش‌ها حفظ شده است.

«رویال هانسن»، معاون مهندسی گوگل، در شبکه اجتماعی ایکس عنوان کرد که این یافته‌ها نشان‌دهنده آغاز دوره جدیدی در کشف خودکار آسیب‌پذیری‌ها هستند. ابزارهای مشابه مانند RunSybil و XBOW نیز با استفاده از مدل‌های بزرگ زبانی (LLM) به دنبال شناسایی آسیب‌پذیری‌ها هستند و به موفقیت‌هایی دست یافته‌اند.

برای اطمینان از صحت گزارش‌های هوش مصنوعی و واقعی‌بودن آسیب‌پذیری‌ها، حضور انسان در بررسی آنها ضروری است؛ مانند آنچه در پروژه Big Sleep دیده می‌شود.

«ولاد ایونسکو»، مدیر فناوری شرکت RunSybil، در مصاحبه با TechCrunch بیان کرد که پروژه Big Sleep اعتبار زیادی دارد، چرا که تیم توسعه‌دهنده با دانش بالا و تجربه کافی در زمینه کشف آسیب‌پذیری‌ها فعالیت می‌کند و از حمایت فنی و منابع قدرتمند DeepMind برخوردار است.

بااین‌وجود، برخی توسعه‌دهندگان نرم‌افزار از وجود گزارش‌های اشتباهی شکایت دارند که ناشی از توهمات هوش مصنوعی است و آنها را معادل گزارش‌های بی‌ارزش و نادرست می‌دانند. ایونسکو در این رابطه گفت:

«مشکل اصلی این است که گزارش‌هایی دریافت می‌کنیم که در ظاهر ارزشمند به‌نظر می‌رسند اما در واقع فاقد اعتبار هستند.»

این موضوع نشان می‌دهد که هرچند فناوری هوش مصنوعی در کشف آسیب‌پذیری‌ها پیشرفت کرده است، اما نیاز به بررسی و اعتبارسنجی دارد تا از صحت و کیفیت نتایج مطمئن شویم.

مهدی فروغی

فارغ‌التحصیل شیمی دانشگاه تهران و ارشد زبان انگلیسی، اما عشق اصلیم سینماست؛ دنیایی که همیشه در آن غرق می‌شوم.

دیدگاه‌ها و نظرات خود را بنویسید
مطالب پیشنهادی