فهرست مطالب
متا تبلیغات اپلیکیشن Kromix برای ساخت دیپفیک جنسی زنان را نمایش داد؛ اقدامی که نگرانیها درباره ضعف نظارت بر محتوای AI را افزایش داد.
به گزارش سرویس اپلیکیشن موبایل تکناک، این ماجرا جدیدترین مورد از مجموعه ناکامیهای متا در جلوگیری از انتشار تبلیغات ابزارهایی است که برای ساخت تصاویر خصوصی جعلی و بدون رضایت افراد استفاده میشود.
این ابزار که Kromix نام دارد، خود را یک «ویرایشگر تصویر مبتنی بر هوش مصنوعی» معرفی میکند.
در یکی از تبلیغاتی که مشاهده شده است، گوینده تبلیغ این ابزار را بدون محدودیت معرفی میکند و میگوید «همه شخصیتها افراد واقعی هستند» و آن را «هوش مصنوعیای که مردان معمولا استفاده میکنند» توصیف میکند.
در یکی از تبلیغات، زنی که شباهت زیادی به یکی از سیاستمداران شناختهشده آمریکا دارد، مقابل پرچم آمریکا و پرچم ریاستجمهوری این کشور دیده میشود. روی تصویر عبارت «اگر او حرکت میکرد چه میشد؟» نمایش داده میشود.
سپس زن چشمک میزند و تبلیغ به صحنهای از یک ویدئوی پورنوگرافی با همان چهره منتقل میشود.
اپلیکیشن Kromix که پیش از درخواست توضیح خبرگزاریها همچنان در فروشگاه اپلیکیشن اپل قرار داشت.
در ادامه این اپلیکیشن به کاربران پولی اجازه میدهد تصاویر خود را بارگذاری کنند تا در سناریوهایی مانند «عشق دیزنی» مورد استفاده قرار گیرد.
این اپلیکیشن همچنین ویدئوهای پورنوگرافی تولیدشده با هوش مصنوعی از زنان با لباس شخصیت مرد عنکبوتی را نمایش میدهد.
اپل نیز در مقابله با ابزارهای مشابه با مشکل مواجه بوده است.
این ابزارها قوانین اپل درباره تصاویر خصوصی بدون رضایت، برهنهسازی مصنوعی و محتوای جنسی را نقض میکنند.
دادستان شهر سانفرانسیسکو نیز پیشتر با ارسال نامه توقف فعالیت، از اپل خواسته بود ۱۳ اپلیکیشن مشخص را حذف کند.
بیشتر بخوانید: وقتی عینک متا به تهدیدی برای حریم خصوصی محیطکار تبدیل میشود
تبلیغات متا و نگرانی درباره دیپفیکهای جنسی
طبق اطلاعات کتابخانه تبلیغات متا، این تبلیغات فقط برای کاربران مرد هدفگذاری شده بودند و با شعار «جادوی نسل بعدی هوش مصنوعی را آزاد کنید» منتشر شدند.
حساب مرتبط با این کمپین در مجموع ۳۲ تبلیغ منتشر کرده بود که هرکدام بین پنج تا ۴۶ ساعت فعال بودند. بیشتر این تبلیغات کمتر از ۱۰ نمایش دریافت کرده بودند.
کیتی پال، مدیر پروژه شفافیت فناوری، گفت تمام تبلیغاتی که تاکنون درباره اپلیکیشنهای برهنهسازی مصنوعی مشاهده شدهاند، بهطور گسترده زنان را جنسیسازی کرده و آنها را در محتوای پورنوگرافی تولیدشده با هوش مصنوعی قرار دادهاند.
او معتقد است این موضوع درباره نحوه برخورد متا با چنین محتواهایی، بهویژه زمانی که زنان سیاستمدار هدف قرار میگیرند، پرسشهای جدی ایجاد میکند.
سیاستمداران و مقامهای منتخب، که بیشتر آنها زنان هستند، سالها هدف تصاویر و ویدئوهای دیپفیک بدون رضایت بودهاند.
پژوهشگران هشدار دادهاند با گسترش ابزارهای هوش مصنوعی، تصاویر رسمی مانند عکسهای کاری یا ویدئوهای کنفرانسهای خبری میتوانند به مواد اولیه ساخت محتوای جعلی تبدیل شوند.
بیشتر بخوانید: متا ایآی به ابزار تحلیلی کسبوکارهای کوچک تبدیل شد
ضعف سیستمهای نظارتی و واکنش متا و اپل
متا اعلام کرده است پیش از انتشار هر تبلیغ در پلتفرمهایی مانند اینستاگرام و فیسبوک، محتواها بررسی میشود. با این حال، سیستم بررسی تبلیغات این شرکت عمدتاً بر ابزارهای خودکار متکی است.
این شرکت قوانین مشخصی دارد که انتشار تبلیغات شامل برهنگی، فعالیت جنسی یا محتوای تحریکآمیز را ممنوع میکند. همچنین سیاستهای متا، تصاویر خصوصی بدون رضایت و تبلیغ اپلیکیشنهای «برهنهسازی» را ممنوع کردهاند.
با این وجود، پژوهشگران در سالهای اخیر هزاران تبلیغ مربوط به چنین ابزارهایی را در پلتفرمهای متا شناسایی کردهاند. خود متا اعلام کرده است که بین نوامبر سال گذشته تا ژانویه، ۳۴۴ هزار تبلیغ مرتبط با اپلیکیشنهای برهنهسازی مصنوعی را حذف کرده است.
اپل نیز اعلام کرد اپلیکیشن Kromix را از اپاستور حذف کرده است. این شرکت گفت چنین برنامههایی که برای تولید، انتشار یا مصرف محتوای پورنوگرافی طراحی شدهاند، برخلاف قوانین اپل هستند.
پژوهشگران همچنین پیشتر دهها تبلیغ در متا پیدا کرده بودند که شامل محتوای سوءاستفاده جنسی از کودکان با استفاده از هوش مصنوعی بود. این تبلیغات نیز پس از اطلاعرسانی WIRED به متا حذف شدند.
کیتی پال معتقد است متا بیش از گذشته به هوش مصنوعی برای بررسی تبلیغات وابسته شده و همزمان تعداد ناظران انسانی را کاهش داده است. او میگوید تبلیغات محصول اصلی متا هستند و به نظر میرسد کنترل کیفیت کافی روی آنها وجود ندارد.
