فهرست مطالب
شرکت آنتروپیک اعلام کرد که خروجیهای متنی و تصویری مدلهای جدید کلود را برای تطبیق با قانون هوش مصنوعی اتحادیه اروپا واترمارکگذاری میکند.
به گزارش سرویس هوش مصنوعی تکناک، قابلیت شناسایی محتوای تولیدشده با هوش مصنوعی، با توجه به استفاده روزافزون کاربران از متنها و تصاویر این سرویسها، اهمیتی حیاتی پیدا کرده است. AIA، قانون هوش مصنوعی اتحادیه اروپا نیز تاریخ ۲ اوت ۲۰۲۶ را به عنوان مهلت آغاز اجرای تدابیر شناساییپذیری توسط ارائهدهندگان خدمات هوش مصنوعی تعیین کرده است.
در همین راستا، آنتروپیک مقالهای راهنما منتشر کرده که در آن توضیح داده است نسخههای جدید کلود چگونه به طور مشخص با ماده ۵۰ این قانون تطبیق خواهند داشت.
این قانون با یک آییننامه اجرایی همراه شده است که پیشنهادهایی برای نحوه پیادهسازی ارائه میدهد. مطابق با همین آییننامه، همه مدلهای جدید کلود متنها را واترمارکگذاری خواهند کرد و دادههای منشا را به فایلهای تولیدشده، یعنی تصاویر با فرمتهای SVG، PNG و JPG اضافه خواهند کرد. راهنمای آنتروپیک کمی دیرتر از رقبا منتشر شده است، چرا که OpenAI و گوگل پیشتر نسخههای خود را در اینباره منتشر کرده بودند.
01
از 02راز واترمارکگذاری مخفی خروجیهای متنی کلود
در بخش متن، آنتروپیک توضیح داد که برخلاف استگانوگرافی در تصاویر که داده را درون محتوای خود تصویر پنهان میکند، واترمارکگذاری متن با اعمال سوگیری در انتخاب توکنها، یعنی بخشهایی از واژهها، در زمان تولید انجام میشود. زمانی که متن تولیدشده تحلیل شود با یک الگوی آماری مشخص تطابق خواهد داشت و همین موضوع وجود واترمارک را آشکار میکند. آنتروپیک اعلام کرده است که ابزارهای شناسایی این الگوها را در «اسناد فنی آینده» ارائه خواهد کرد.
بهگفته این شرکت، متنی که کپی و فقط با ویرایش جزئی بازنویسی شود، باید همچنان این الگوی قابل شناسایی را حفظ کند. آنتروپیک تاکید کرده است که کیفیت و معنای متن تولیدشده در نتیجه این فرایند نشانهگذاری آسیب نخواهد دید. همچنین طبق آییننامه اجرایی، بخشهای متنی کوتاهتر از ۲۰۰ توکن از این الزام مستثنا هستند، زیرا داده کافی برای واترمارکگذاری قابل اعتماد ندارند.
در مورد تصاویر، فرمتهای یادشده از متادیتای اضافی متصل به خود فایل پشتیبانی میکنند و کلود از این پس یک گواهی منشا مبتنی بر استاندارد C2PA به آنها اضافه خواهد کرد. به صورت ساده، این فایلها یک گواهی دیجیتال همراه خواهند داشت که اگر فایل به هر شکلی تغییر کند، اعتبار آن از بین میرود.
02
از 02چگونه واترمارک تصویری به رسمیت شناخته میشود؟
با وجود این، در متن راهنما هیچ اشارهای به واترمارکگذاری واقعی روی خود تصویر نشده است و آنتروپیک نیز چنین قابلیتی را مطرح نکرده است؛ در حالی که آییننامه اجرایی برای تصاویر، علاوه بر اطلاعات منشا، واترمارک تصویری را هم الزامی میداند. انتظار میرود این شرکت در مقطعی چنین قابلیتی را نیز اضافه کند، چرا که در غیر این صورت، با کپی ساده محتوای تصویر امکان ردیابی آن از بین میرود.
طبق گزارش تامز هاردور، آنتروپیک گفته است در حال کار برای افزودن این قابلیتها به مدلهای فعلی کلود نیز میباشد؛ اقدامی که طبق قانون AIA باید تا ۲ دسامبر ۲۰۲۶ انجام شود. راهنمای این شرکت در ابتدا از «مدلهای عرضهشده در اتحادیه اروپا» سخن میگوید، اما در بخشهای بعدی روشن میکند که این نشانهگذاری برای خروجی مدلهای پشتیبانیشده، در هر جایی که کلود عرضه شود، در سراسر جهان اعمال خواهد شد.
همچنین این متن یادآور میشود که ممکن است محتوای نقلقول مستقیم بهاشتباه به عنوان بخشی از پاسخ واترمارکگذاری شود. از سوی دیگر، نبود واترمارک متنی نیز به این معنا نیست که محتوا توسط هوش مصنوعی تولید یا پردازش نشده است. همچنین قانون هوش مصنوعی اتحادیه اروپا ارائهدهندگان خدمات را ملزم میکند ابزارهایی برای شناسایی واترمارکها در اختیار کاربران قرار دهند و آنتروپیک اعلام کرده است که جزئیات این ابزارها را در اسناد آینده منتشر خواهد کرد.
