دستورالعمل‌های اپل برای جلوگیری از بروز توهم در Apple Intelligence برملا شد
اپل با این دستورات از هوش مصنوعی خود می‌خواهد ضمن دوری از توهم، برای کاربران محتوای «منفی» تولید نکند.
در دیجیاتو ثبت‌نام کنید
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
عضویت در دیجیاتوتازههای تکنولوژی
ویدئوی مرتبط
یکی از کاربران ردیت در نسخه بتا macOS 15.1 دستورالعمل‌های داخلی Apple Intelligence را کشف کرده است که در آن اپل به هوش مصنوعی خود می‌گوید توهم نداشته باشد؛ یعنی اطلاعات جعلی به کاربران ندهد. ویژگی Smart Reply هوش مصنوعی اپل به کاربران کمک می‌کند به ایمیل‌ها و پیام‌هایشان پاسخ دهند.
همان‌طور که احتمالاً می‌دانید، وظایف سیستم‌های هوش مصنوعی با استفاده از دستورالعمل‌های متنی به آن‌ها گفته می‌شود. برخی از این دستورات را خود کاربران ارائه می‌دهند و برخی دیگر را توسعه‌دهنده سیستم نوشته و در مدل تعبیه کرده‌اند. یکی از کاربران ردیت با نام devanxd2000 مجموعه‌ای از فایل‌های JSON را در بتای macOS 15.1 کشف کرده است که ظاهراً دستورالعمل‌های پیش‌فرض اپل برای ویژگی Smart Reply هستند.
دستورات کشف‌شده برای هوش مصنوعی اپل
در این مثال، به بات هوش مصنوعی که آن را «دستیار ایمیل مفید» نامیده است، گفته می‌شود چگونه براساس محتوای ایمیل مجموعه‌ای از سؤالات را مطرح کند. این مثال می‌تواند به بخشی از ویژگی Smart Reply اپل اشاره داشته باشد.
اپل در وب‌سایت خود درباره ویژگی Smart Reply می‌گوید:
«از Smart Reply می‌توانید برای پیش‌نویس سریع پاسخ ایمیل خود با تمام جزئیات مناسب استفاده کنید. Apple Intelligence می‌تواند سؤالاتی را که در ایمیل از شما پرسیده شده است، شناسایی و گزینه‌های مرتبطی برای پاسخ به شما ارائه کند. با چند ضربه، آماده‌اید با جواب به سؤالات کلیدی پاسخ را ارسال کنید.»
نکته قابل‌توجه دیگر نیز به دستورات مثال بالا مربوط می‌شود که ظاهراً برای ویژگی «Rewrite» اپل در نظر گرفته شده است، یکی از ابزارهای مخصوص نوشتن غول فناوری که با برجسته‌کردن بخشی از متن و کلیک راست به آن دسترسی پیدا می‌کنید. اپل در دستورالعمل‌های خود از جملاتی مانند «لطفاً پاسخ را در 50 کلمه محدود کن»، «توهم نداشته باش» و «اطلاعات واقعی را جعل نکن» استفاده کرده است.
دستور کوتاه بالا نیز به هوش مصنوعی اپل می‌گوید ایمیل‌ها را با یک دستورالعمل دقیق و بدون پاسخگویی به هیچ سؤالی خلاصه کند.
نهایتاً دستور بالا ظاهراً به ایجاد ویدیوهای خاطره‌انگیز «Memories» با اپل فوتوز مربوط می‌شود. در بخشی از این دستور آمده است:
«داستان مذهبی، سیاسی، مضر، خشونت‌آمیز، جنسی، کثیف یا به هر طریقی منفی، ناراحت‌کننده یا تحریک‌آمیز ننویس.»
دستورالعمل‌های جلوگیری از توهم هوش مصنوعی اپل کاملاً خوش‌بینانه به نظر می‌رسد. دلیل اصلی توهم سیستم‌های هوش مصنوعی این است که آن‌ها درک درستی از محتوا ندارند؛ بنابراین هیچ راه مطمئنی برای تشخیص درست یا نادرست بودن خروجی آن‌ها وجود ندارد.
هفته گذشته، آخرین نسخه بتای توسعه‌دهندگان سیستم‌عامل‌های اپل با تعدادی از ویژگی‌های هوش مصنوعی این شرکت که در WWDC شاهد آن‌ها بودیم، منتشر شد. طی چند ماه آینده نیز هم‌زمان با معرفی آیفون 16 و عرضه عمومی iOS 18 این قابلیت‌ها برای آیفون‌ها، آیپدها و مک‌ها عرضه خواهند شد.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.