شرکت متا برای مقابله با چالش تصاویر جعلی، ابزار جدید Content Seal را معرفی کرد تا کاربران بتوانند اصالت محتوای تولیدشده با مدل Muse Image را بررسی کنند.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت پیشنمایش ابزار تحت وبی را نشان داد که میتواند واترمارکهای نامرئی استفادهشده توسط مدل جدید را بررسی کند.
شرکت متا در پستی وبلاگی توضیح داد که سیستم واترمارکگذاری Content Seal، حتی هنگام برش، فشردهسازی، تغییر اندازه یا اسکرینشات گرفتن نیز همچنان باقی میماند. این شرکت تصریح کرد که پیشنمایشی از ابزار شناسایی را ارائه میدهد که امکان بررسی اینکه یک تصویر دارای واترمارک Content Seal است یا خیر را فراهم میکند و راهی اولیه برای درک بهتر این موضوع در اختیار کاربران قرار میدهد که آیا تصویر با هوش مصنوعی متا ساخته شده است یا خیر.
به نظر میرسد Content Seal رویکرد به نسبت جدیدی برای متا باشد. متا به انگجت اعلام کرد که نسخه موجود در Muse Image اختصاصی است، اگرچه این شرکت پیشتر نسخههای متنباز این فناوری را منتشر کرده بود. مدلهای جدید متا هیچ واترمارک قابلمشاهدهای ندارند، برخلاف برخی نسخههای قبلی هوش مصنوعی متا که لوگوی کوچکی را به گوشه سمت راست پایین اضافه میکردند.
در حال حاضر، قابلیتهای شناسایی هوش مصنوعی متا محدود به تصاویری است که با Muse Image ایجاد یا ویرایش شدهاند، اگرچه این شرکت اعلام کرد که قصد دارد واترمارکهای Content Seal را به ویدیوهای تولید یا ویرایششده با هوش مصنوعی نیز گسترش دهد. همچنین متا در حال کار روی یک مدل جداگانه تولید ویدیویی به نام Muse Video است که به زودی عرضه خواهد شد.
بررسی قابلیت جدید شناسایی روی تصاویر ایجادشده با هوش مصنوعی متا نشان داد که ابزار تحت وب قادر به شناسایی واترمارک برای تصاویر ویرایششده و آثار کاملاً ساختهشده با هوش مصنوعی است. همچنین این ابزار، واترمارک را در اسکرینشاتهای تصاویر نیز پیدا کرد. شرکت متا در بخش سوالات متداول توضیح داد که نتیجه مثبت به این معنا است که تصویر با استفاده از اپلیکیشن هوش مصنوعی متا یا meta.ai تولید یا ویرایش شده است و نتیجه منفی نشان میدهد که بعید است تصویر با استفاده از این ابزارها پردازش شده باشد.
نکته جالب توجه این است که قابلیتهای جدید شناسایی هوش مصنوعی متا هنوز بخشی از اپلیکیشن هوش مصنوعی متا به نظر نمیرسند. در آزمایشی که در آن از دستیار مبتنی بر اپلیکیشن متا درباره تصویری که ابزار تحت وب آن را به عنوان ساختهشده با هوش مصنوعی شناسایی کرده بود سوال شد، دستیار پاسخ داد که قابلیت بررسی این مورد را ندارد. این دستیار اعلام کرد که نمیتواند با نگاه کردن به تصویر به طور قطع بگوید که این تصویر خاص با هوش مصنوعی متا ساخته شده است یا خیر، چرا که هوش مصنوعی متا بهطور خودکار به تصاویر واترمارک نمیزند و ابزاری برای تشخیص اینکه کدام مدل هوش مصنوعی یک تصویر موجود را ساخته است، در دسترس نیست.
بر اساس گزارش انگجت، متا پیشتر با انتقاداتی در خصوص نحوه برچسبگذاری و شناسایی مطالب تولیدشده توسط هوش مصنوعی در اپلیکیشنهای خود مواجه شده است. هیئت نظارت اوایل سال جاری به این شرکت اعلام کرد که نگران است متا واترمارکهای دیجیتال را به صورت متناقض روی محتوای هوش مصنوعی که توسط ابزارهای خود شرکت ایجاد شده است، پیادهسازی کند.
با وجود این، به نظر میرسد این ویژگی جدید محدودیتهای دیگری نیز دارد. Content Seal با SynthID یا اعتبارنامه محتوای C2PA که دو روش استاندارد واترمارکگذاری مورد استفاده سایر شرکتها هستند، سازگار نیست. در بررسیهای انجامشده، ویژگی تحت وب قادر به شناسایی تصاویر ایجاد یا ویرایششده با نسخههای قدیمیتر مدلهای هوش مصنوعی متا نبود. هنگام افزودن تصاویر ایجادشده در چتهای قدیمی با هوش مصنوعی متا، این ابزار نتوانست تشخیص دهد که آیا تصویر با هوش مصنوعی متا ساخته شده است یا خیر. همچنین به دلایلی به نظر میرسد این قابلیت مشمول محدودیتهای نرخ دسترسی متا است، چرا که پس از بارگذاری تعداد اندکی از نمونهها، هشداری مبنی بر رسیدن به محدودیت روزانه بررسیهای شناسایی نمایش داده شد.
