شرکت OpenAI با معرفی C2PA و واترمارک SynthID و همچنین ابزار راستیآزمایی جدید، امکان تشخیص تصاویر تولیدشده با هوش مصنوعی را برای کاربران سادهتر و شفافتر میکند.
به گزارش سرویس هوش مصنوعی تک ناک؛ OpenAI اعلام کرد با هدف افزایش شفافیت و مقابله با گسترش تصاویر جعلی، مجموعهای از ابزارها و استانداردهای جدید را برای تشخیص تصاویر تولیدشده با هوش مصنوعی ارائه میدهد.
مهمترین اقدام این شرکت، معرفی یک ابزار عمومی راستیآزمایی است که امکان تشخیص تولید یا عدم تولید یک تصویر توسط مدلهای هوش مصنوعی را فراهم میکند که در مرحله نخست صرفاً برای تصاویر ایجادشده در محصولات OpenAIدر دسترس خواهد بود.
در همین راستا، OpenAI از استاندارد متنباز C2PA نیز پشتیبانی میکند؛ استانداردی که با ثبت اطلاعات در فراداده فایل، منشأ تولید تصویر را مشخص میسازد. علاوه بر آن در همکاری مشترک با گوگل در به کارگیری واتر مارک نامرئی SynthID راهکار تازه ای را در برابر حذف یا دستکاری تصاویر نسبت به روشهای متداول در نظر گرفته استو
براساس گزارش TechCrunch، این دو فناوری صرفاً برای تصاویر تولیدشده در محصولات OpenAI به کار گرفته میشوند و سایر ابزارهای موجود در بازار را پوشش نمیدهند؛ مسئلهای که همچنان چالش تشخیص فراگیر تصاویر جعلی را پابرجا نگه میدارد.
استاندارد C2PA که در سال ۲۰۲۱ توسط یک ائتلاف غیرانتفاعی توسعه یافته است، با هدف کاهش آثار منفی تصاویر تولیدشده با هوش مصنوعی بر افکار عمومی طراحی شده، اما به دلیل اتکا به فراداده، همچنان در معرض امکان دستکاری قرار دارد.
در مقابل، فناوری SynthID که توسط گوگل توسعه یافته، بهعنوان راهکاری مقاومتر طراحی شده و حتی در صورت اسکرینشات، تغییر اندازه یا ویرایش تصویر نیز قابل شناسایی باقی میماند.
OpenAI تأکید کرده است که این دو سیستم مکمل یکدیگر هستند؛ بهگونهای که واترمارکها در برابر تغییرات بصری مقاوماند و فراداده اطلاعات دقیقتری ارائه میدهد، و ترکیب این دو، قابلیت اطمینان در تشخیص منشأ تصاویر را افزایش میدهد.
