توانایی انسانها در شناسایی تصاویر جعلی با استفاده از هوش مصنوعی در حال کاهش است و این مسئله در آینده به بحرانی بزرگ تبدیل خواهد شد.
به گزارش تکناک، مایکروسافت در گزارشی جدید از پروژه AI for Good نتایج پژوهش گستردهای را منتشر کرد که نشان میدهد انسانها در تشخیص تصاویر تولیدشده با هوش مصنوعی توانایی محدودی دارند. در این مطالعه که با مشارکت بیش از ۱۲٬۵۰۰ نفر از سراسر جهان و بررسی حدود ۲۸۷٬۰۰۰ تصویر انجام شد، نرخ موفقیت شرکتکنندگان در تشخیص تصاویر واقعی از تصاویر جعلی، تنها ۶۲ درصد اعلام شد.
براساس این گزارش، شرکتکنندگان بیشترین موفقیت را در شناسایی چهرههای انسانی جعلی داشتند؛ اما درباره مناظر طبیعی و شهری عملکرد ضعیفتری نشان دادند و نرخ تشخیص در این دستهها به ۵۹ تا ۶۱ درصد کاهش یافت. پژوهشگران تأکید کردند که این آمارها مشکل جدی انسانها در تشخیص تصاویر هوش مصنوعی، بهویژه نمونههای فاقد نشانههای واضح یا سبکهای مصنوعی را نشان میدهد.
در تحقیق یادشده، از داوطلبان خواسته شد تا در بازی آنلاینی با عنوان Real or Not Quiz شرکت و تصاویر هوش مصنوعیای را بررسی کنند که احتمال دارد در فضای مجازی مشاهده کنند. برگزارکنندگان اعلام کردند که تصاویر بهصورت هدفمند انتخاب و نمونههای بسیار فریبدهنده نیز حذف نشدهاند. همچنین، هشدار داده شد که با پیشرفت سریع فناوری، مدلهای آینده احتمالاً تصاویر بسیار واقعیتری تولید خواهند کرد.
نئووین مینویسد که مایکروسافت براساس این یافتهها استفاده از ابزارهای شفافسازی مانند واترمارک و توسعه ابزارهای قدرتمند تشخیص هوش مصنوعی را خواستار شد تا خطر انتشار محتوای جعلی کاهش یابد. این شرکت پیشتر نیز کمپینی برای آگاهسازی مردم درباره خطرهای اطلاعات نادرست تولیدشده با هوش مصنوعی آغاز کرده بود.
در این مطالعه از ابزار اختصاصی مایکروسافت برای تشخیص تصویر نیز استفاده شد که توانست با دقت بیش از ۹۵ درصد، تصاویر واقعی و جعلی را شناسایی کند. پژوهشگران اعلام کردند که هرچند این ابزارهای ماشینی مطمئنتر از قضاوت انسانی هستند، همچنان بینقص نیستند. آنان هشدار دادند که افراد سودجو واترمارکهای مشاهدهشدنی را نیز میتوانند بهراحتی حذف یا پنهان کنند.
پژوهشگران دلیل انسانها در تشخیص بهتر چهرههای جعلی را توانایی ذاتی مغز در شناسایی چهره عنوان کردند. همچنین، نتایج نشان داد که مدلهای قدیمیتر مانند GAN و تکنیک Inpainting توانستهاند کاربران را بیشتر فریب دهند؛ زیرا تصاویر آنها شباهت بیشتری به عکسهای آماتور دارد، نه تصاویر با کیفیت استودیویی مدلهایی مانند میدجرنی یا DALL-E 3.
به گفته مایکروسافت، تکنیک Inpainting که در آن بخش کوچکی از تصویر واقعی با عناصر تولیدشده با هوش مصنوعی جایگزین میشود، یکی از روشهای خطرناک برای ایجاد تصاویر جعلی است؛ زیرا شناسایی جعل را بسیار دشوار میکند.
این مطالعه تأکید میکند که انسانها در برابر فریبخوردن به وسیله تصاویر تولیدشده با هوش مصنوعی بسیار آسیبپذیرند و لزوم توسعه فناوریهای جدید برای جلوگیری از گسترش این گونه محتوای جعلی بیش از هر زمان دیگری احساس میشود.
