متا ابزار جدید تشخیص محتوای تولیدشده با هوش مصنوعی را معرفی کرد

شرکت متا از ابزار تشخیص محتوای تولیدشده با هوش مصنوعی با نام Content Seal رونمایی کرده است.

به گزارش سرویس هوش مصنوعی تک‌ناک، این فناوری جدید با استفاده از واترمارک نامرئی، تصاویر تولیدشده توسط مدل‌های هوش مصنوعی این شرکت را شناسایی و برچسب‌گذاری می‌کند. این اقدام در پاسخ به درخواست هیئت نظارت متا برای مقابله با گسترش محتوای گمراه‌کننده تولیدشده با هوش مصنوعی انجام شده است.

ابزار تشخیص محتوای تولیدشده با هوش مصنوعی متا روی تصاویر ساخته‌شده با مدل جدید Muse Image کار می‌کند و واترمارکی نامرئی را در تصویر قرار می‌دهد که به گفته این شرکت حتی پس از تغییراتی مانند: برش، فشرده‌سازی، تغییر اندازه یا ثبت اسکرین‌شات نیز قابل شناسایی است. کاربران می‌توانند از طریق ابزار تحت وب متا بررسی کنند که آیا یک تصویر واترمارک Content Seal را دارد یا خیر.

با وجود این، کارشناسان معتقد هستند Content Seal در مقایسه با فناوری SynthID گوگل هنوز محدودیت‌های زیادی دارد. این سیستم فعلاً فقط از تصاویر تولیدشده با جدیدترین مدل هوش مصنوعی متا پشتیبانی می‌کند، قابلیت تشخیص آن تنها از طریق ابزار اختصاصی متا در دسترس است و هنوز برای ویدیوها یا تصاویر قدیمی‌تر متا کاربرد ندارد. همچنین پلتفرم‌های شخص ثالث مانند تیک‌تاک و لینکدین نیز در حال حاضر قادر به تشخیص این واترمارک نیستند.

انتقادها تنها به محدود بودن قابلیت‌ها ختم نمی‌شود. برخی کارشناسان می‌گویند که متا می‌توانست به‌جای توسعه یک فناوری اختصاصی، از استانداردهای شناخته‌شده‌ای مانند SynthID یا Content Credentials استفاده کند تا سازگاری بیشتری میان سرویس‌ها و پلتفرم‌های مختلف ایجاد شود. به باور منتقدان، استفاده از یک استاندارد مشترک می‌توانست شفافیت بیشتری در شناسایی محتوای تولیدشده با هوش مصنوعی ایجاد کند.