شرکت متا ابزاری جدید به نام Meta Video Seal برای افزودن نشانه‌گذاری به ویدئوهای تولیدشده با هوش مصنوعی معرفی کرده است.
به گزارش تکناک، متا ابزار جدیدی با نام Meta Video Seal معرفی کرده است که می‌تواند به‌صورت نامرئی ویدئوهای تولیدشده با هوش مصنوعی را نشانه‌گذاری کند. این ابزار با هدف مقابله با افزایش بی‌سابقه محتوای جعلی و دیپ‌فیک‌ها طراحی شده و به‌صورت متن‌باز در دسترس قرار گرفته است تا به‌راحتی در نرم‌افزارهای موجود ادغام شود.
طبق گزارش پلتفرم احراز هویت Sumsub، حجم دیپ‌فیک‌ها از سال ۲۰۲۳ تا ۲۰۲۴ چهار برابر شده است و این نوع محتواها در سال ۲۰۲۴ حدود ۷ درصد از کل تقلب‌های آنلاین را شامل می‌شدند. این تقلب‌ها از جعل هویت و دسترسی غیرمجاز به حساب‌ها تا کمپین‌های پیشرفته مهندسی اجتماعی را دربر می‌گیرد.
پیر فرناندز، دانشمند تحقیقاتی هوش مصنوعی در متا، در گفت‌وگو با TechCrunch اظهار کرد:
ابزار Meta Video Seal برای ارائه راه‌حل مؤثرتر در نشانه‌گذاری ویدئوها و شناسایی ویدئوهای تولیدشده با هوش مصنوعی و حفاظت از اصالت محتوا طراحی شده است.
فهرست مطالب
ویژگی‌های ابزار Meta Video Seal
تک‌کرانچ می‌نویسد که این ابزار نه‌تنها قابلیت نشانه‌گذاری نامرئی دارد؛ بلکه امکان افزودن پیام‌های مخفی به ویدئوها را نیز فراهم می‌کند. این پیام‌ها می‌توانند بعداً برای شناسایی منبع ویدئو آشکار شوند. متا ادعا می‌کند Video Seal در برابر ویرایش‌های رایج مانند برش و محو‌کردن و فشرده‌سازی مقاوم است.
فرناندز در ادامه توضیح داد که بسیاری از ابزارهای مشابه موجود، نظیر SynthID از دیپ‌مایند و روش‌های نشانه‌گذاری مایکروسافت، ازنظر مقاومت در برابر فشرده‌سازی یا اجرای در مقیاس وسیع کارآمد نیستند. وی افزود:
ابزارهای دیگر یا متن‌باز نیستند یا از روش‌های نشانه‌گذاری تصاویر مشتق شده‌اند که برای ویدئوها مناسب نیست.
مشکلات و اقدامات متا
یکی از مشکلات پیش روی این ابزار، فقدان پذیرش گسترده آن در بین توسعه‌دهندگان و شرکت‌ها به‌ویژه آن‌هایی است که از راهکارهای اختصاصی استفاده می‌کنند. به همین دلیل، متا جدول رتبه‌بندی عمومی به نام Meta Omni Seal Bench را معرفی کرده است تا عملکرد روش‌های مختلف نشانه‌گذاری را مقایسه کند. همچنین، این شرکت قصد دارد در کنفرانس بزرگ هوش مصنوعی ICLR، کارگاهی برای بحث و بررسی نشانه‌گذاری برگزار کند. فرناندز در پایان گفت:
امیدواریم که محققان و توسعه‌دهندگان بیشتری از روش‌های نشانه‌گذاری در پروژه‌های خود استفاده کنند. همکاری با صنعت و جامعه علمی می‌تواند به تسریع پیشرفت‌ها در این حوزه کمک کند.
ابزار Meta Video Seal بخشی از تلاش‌های گسترده متا برای مقابله با مشکلات مرتبط با محتوای جعلی و دیپ‌فیک‌ها است. با ارائه این ابزار به‌صورت متن‌باز و مقاوم در برابر تغییرات معمول ویرایشی، متا در تلاش است تا به جامعه علمی و صنعتی کمک کند گام‌های مؤثرتری در این مسیر بردارند.
