آنتروپیک برای پیروی از قوانین اروپا، در متن‌های Claude واترمارک مخفی می‌گذارد

شرکت آنتروپیک اعلام کرده که از تاریخ ۲ آگوست (۱۱ مرداد)، روند افزودن واترمارک‌های قابل خواندن توسط ماشین را به متون تولیدشده توسط مدل‌های جدید Claude آغاز کرده است. این اقدام در پاسخ به الزامات مطرح‌شده در ماده ۵۰ قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) انجام می‌شود؛ چرا که آنتروپیک دستورالعمل‌های رفتاری این اتحادیه در زمینه محتوای تولیدشده توسط هوش مصنوعی را امضا کرده است.

با این‌ تغییر، مدل‌های جدید Claude که از این تاریخ عرضه می‌شوند، محتوای تولیدی را در سطح مدل نشان‌گذاری می‌کنند و به گفته آنتروپیک، این نشان‌گذاری‌ها به‌صورت جهانی اعمال خواهند شد و تنها محدود به کاربران اروپایی نخواهد بود. همچنین این سیستم برای متن و فایل از دو روش جداگانه استفاده می‌کند؛ متن‌ها واترمارک مخفی می‌گیرند و روی فایل‌ها هم شناسنامه دیجیتالی ثبت می‌شود.

متن‌های تولیدشده با هوش مصنوعی Claude علامت‌گذاری می‌شوند

کاربران هنگام خواندن عادی متن، متوجه این نشان خاص نخواهند شد. با‌این‌حال، هنگام کپی و پیست کردن پاسخ‌ها، این واترمارک همراه متن باقی می‌ماند و انتظار می‌رود که حتی پس از برخی ویرایش‌ها نیز پابرجا بماند. مشتریان ابری که از طریق پلتفرم‌های بزرگی مانند آمازون (AWS)، گوگل (Google Cloud) و مایکروسافت Foundry به مدل‌های پشتیبانی‌شده Claude دسترسی دارند نیز خروجی‌های نشان‌گذاری‌شده دریافت خواهند کرد.

رویکرد جدید آنتروپیک ابزار دیگری در اختیار سازمان‌ها و پلتفرم‌ها قرار می‌دهد تا ارزیابی کنند که آیا یک متن توسط هوش مصنوعی پردازش شده است یا خیر. آنتروپیک اعلام کرده که جزئیات فنی ابزارهای تشخیص این واترمارک‌ها را منتشر خواهد کرد تا کاربران و اشخاص ثالث بتوانند محتوا را بررسی کنند. مدل‌های قدیمی‌تر Claude بلافاصله این ویژگی را دریافت نمی‌کنند، اما آنتروپیک درحال کار روی افزودن این قابلیت به آنها است.

READ  یک هکر از هوش مصنوعی Claude برای سرقت اطلاعات دولتی مکزیک سوءاستفاده کرد

Claude برای فایل‌های پشتیبانی‌شده، از جمله فرمت‌های تصویری رایج، از سیستم مجزایی بهره می‌برد. فایل‌های تولیدشده می‌توانند متادیتای اصالت‌سنجی امضاشده بر پایه استاندارد «ائتلاف برای اصالت و منشأ محتوا» یا C2PA را دریافت کنند. این استاندارد، چارچوبی مشترک برای ثبت اطلاعات درباره محتوای دیجیتال فراهم می‌کند و یک رکورد معتبر می‌تواند نشان دهد که فایل توسط Claude پردازش شده و آیا تغییر یافته است یا خیر.

باید به این نکته اشاره کرد که متادیتای فایل و واترمارک متن‌ها تفاوت دارند؛ درحالی‌که واترمارک همراه با متن کپی و منتقل می‌شود، متادیتای فایل ممکن است هنگام تغییر فرمت، گرفتن اسکرین‌شات یا ذخیره مجدد از بین برود.

البته آنتروپیک هشدار داده که هیچ‌یک از این سیگنال‌ها نباید ‌عنوان اثبات قطعی مالکیت یا نویسندگی تلقی شوند. کاربران ممکن است از Claude برای خلاصه کردن، ترجمه یا ویرایش متون انسانی استفاده کنند که در این صورت نیز متن خروجی دارای نشان خواهد بود. عکس این موضوع نیز صادق است و نبود نشان لزوماً به معنی تولید متن توسط انسان نیست، چرا که ویرایش‌های سنگین می‌تواند واترمارک را تضعیف کند یا عبارات کوتاه محتوای کافی برای تشخیص ارائه ندهند.