فهرست مطالب
شرکت آنتروپیک جزئیات نحوه استفاده از واترمارک‌های نامرئی در متن‌های تولیدشده توسط کلود را تشریح کرده است.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت این فناوری را برای مطابقت با الزامات شفافیت قانون هوش مصنوعی اتحادیه اروپا به کار خواهد گرفت.
شرکت آنتروپیک اعلام کرد که سیستم علامت‌گذاری متن کلود در واقع نسخه‌ای از روش “SynthID-Text” است؛ فناوری متن‌بازی که گوگل دیپ‌مایند توسعه داده است و با دستکاری احتمالات انتخاب کلمات، الگوهایی قابل شناسایی اما نامرئی در متن ایجاد می‌کند.
بیشتر بخوانید: مدیرعامل آنتروپیک: ریشه موج مخالفت با هوش مصنوعی در بحران اعتماد است
قانون هوش مصنوعی اتحادیه اروپا
برای مطالعه بیشتر: هوش مصنوعی سرکش، اتحادیه اروپا را پای میز مذاکره با OpenAI کشاند
این واترمارک‌های نامرئی در کنار پشتیبانی از استاندارد C2PA برای تصاویر پردازش‌شده توسط کلود ارائه می‌شود تا آنتروپیک بتواند الزامات قانون هوش مصنوعی اتحادیه اروپا را رعایت کند. بر اساس این قانون، محتوای صوتی، تصویری، ویدیویی و متنی تولیدشده یا دستکاری‌شده با هوش مصنوعی باید دارای نشانه‌های قابل خواندن توسط ماشین باشد تا امکان تشخیص ماهیت مصنوعی آن فراهم شود. آنتروپیک تاکید کرده است که اجرای این سیستم باعث افزایش هزینه استفاده از کلود نخواهد شد و «هیچ تاثیر عملی بر کیفیت یا محتوای خروجی‌های کلود» نخواهد گذاشت.
عملکرد واترمارک‌های نامرئی کلود
برای درک نحوه عملکرد این فناوری، تصور کنید مدل در حال تکمیل جمله «امروز هوا سرد و…» باشد. احتمال انتخاب کلمه‌ای نامرتبط بسیار پایین است، اما گزینه‌هایی مانند «ابری» یا «خاکستری» هر دو احتمال بالایی دارند و انتخاب هرکدام، تفاوت چندانی در معنای جمله ایجاد نمی‌کند. در چنین موقعیت‌هایی، مدل معمولا انتخاب خود را بر اساس یک عدد تصادفی انجام می‌دهد. سیستم واترمارک آنتروپیک از همین انتخاب‌های به‌ظاهر کم‌اهمیت که در سراسر یک متن بارها تکرار می‌شوند، برای ایجاد یک الگوی مخفی استفاده می‌کند. این الگو با چشم یا درک معمولی خواننده قابل تشخیص نیست، اما فرد یا سیستمی که کلید مخصوص آن را در اختیار داشته باشد، می‌تواند وجود واترمارک را شناسایی کند.
خبر پیشنهادی: چت‌جی‌پی‌تی با قابلیت تاریخچه کامپیوتر، فعالیت‌های کاربر را تحلیل می کند
در حالت عادی، مدل برای انتخاب کلمه بعدی از یک مولد تصادفی استفاده می‌کند، اما با فعال شدن واترمارک، سازوکار تصادفی‌سازی تغییر می‌کند. در این حالت، کلید واترمارک به همراه چند کلمه قبلی جمله تعیین می‌کند که مدل از میان گزینه‌های محتمل، کدام کلمه را انتخاب کند. به این ترتیب، مجموعه‌ای از انتخاب‌های ظریف و تقریبا نامحسوس در سراسر متن شکل می‌گیرد که در نهایت یک «امضای» قابل تشخیص برای محتوای تولیدشده توسط کلود ایجاد می‌کند.
