تشخیص محتوای هوش مصنوعی در جمنای به‌زودی فراتر از تصاویر خواهد رفت و شامل ویدئو و صوت خواهد شد؛ حرکتی که اعتماد کاربران را تقویت خواهد کرد.
به گزارش سرویس اخبار هوش مصنوعی تکناک، گوگل در اقدامی مهم برای افزایش شفافیت و مقابله با اطلاعات نادرست، قابلیتی جدید را به دستیار هوش مصنوعی جمنای اضافه کرده است. از امروز، کاربران می‌توانند به‌سادگی با مطرح‌کردن سؤالی مانند «آیا این تصویر با هوش مصنوعی ساخته شده است؟»، تشخیص دهند که آیا تصویر با ابزارهای هوش مصنوعی گوگل تولید یا ویرایش شده است یا خیر.
این ویژگی که در مرحله اول روی تصاویر متمرکز است، گام نخست گوگل برای توانمندسازی کاربران در تشخیص محتوای تولیدشده با هوش مصنوعی محسوب می‌شود. این شرکت اعلام کرده است که قصد دارد در آینده‌ای نزدیک، قابلیت راستی‌آزمایی را برای محتواهای ویدئویی و صوتی نیز فراهم آورد و این ابزار را فراتر از اپلیکیشن جمنای، به بخش جست‌وجوی گوگل نیز گسترش دهد.
مکانیزم اولیه این قابلیت برپایه فناوری SynthID و واترمارک نامرئی و اختصاصی گوگل عمل می‌کند. با‌این‌حال، گسترش مهم‌تر این ابزار در آینده و با پشتیبانی از استاندارد صنعتی C2PA (ائتلاف برای اصالت و منشأ محتوا) رخ خواهد داد. این ارتقا به جمنای اجازه می‌دهد تا نه‌تنها محتوای تولیدی گوگل، بلکه آثار ساخته‌شده به‌واسطه طیف وسیعی از ابزارهای هوش مصنوعی و نرم‌افزارهای خلاقانه ازجمله مدل مشهور Sora متعلق به OpenAI را نیز شناسایی و منشأیابی کند.
به نقل از ورج، در همین زمینه گوگل اعلام کرد که تصاویر تولیدشده با مدل‌های جدید هوش مصنوعی این شرکت، به‌طور پیش‌فرض فراداده استاندارد C2PA خواهند داشت. این خبر در کنار اعلامیه اخیر تیک‌تاک مبنی‌بر استفاده از همین استاندارد برای واترمارک‌گذاری محتوای هوش مصنوعی، نشان‌دهنده حرکت بزرگ صنعت فناوری به‌سوی پذیرش استانداردی واحد برای اعتبارسنجی محتوا است.
با اینکه امکان راستی‌آزمایی دستی محتوا در جمنای گامی مثبت و مفید تلقی می‌شود، کارشناسان معتقدند که اثربخشی واقعی فناوری‌هایی مانند SynthID و C2PA زمانی محقق خواهد شد که پلتفرم‌های بزرگ رسانه‌های اجتماعی، به‌جای واگذاری مسئولیت به کاربران، خودشان به‌صورت فعال و خودکار محتوای تولیدشده با هوش مصنوعی را برچسب‌گذاری کنند.
