چندی پیش، تصاویر دیپفیک تیلور سوئیفت، خواننده مشهور آمریکایی، بهسرعت در فضای آنلاین منتشر شدند و X را مجبور کرد تا جستوجوهای مربوط به این خواننده را مسدود کند.
بهگزارش تکناک، هفته گذشته عکسهای دیپفیک تیلور سوئیفت، خواننده آمریکایی، بهسرعت در فضای آنلاین منتشر شدند و بحث دیگری درباره سوءاستفاده از هوش مصنوعی ایجاد کردند. دراینمیان، شبکه اجتماعی X مجبور شد جستوجوهای مربوط به این خواننده را مسدود کند.
حالا، گزارشهای 404مدیا میگوید که مایکروسافت تغییراتی در Designer AI ایجاد کرده است که ظاهراً یکی از کانالهای تلگرامی برای تولید تصاویر غیراخلاقی از آن استفاده میکرده است.
براساس بررسی 404مدیا، تصاویر دیپفیک از این سلبریتی به Designer AI مایکروسافت منتسب شدهاند.
نئووین مینویسد اگرچه مایکروسافت برای جلوگیری از تولید تصاویر غیراخلاقی محدودیتهایی اعمال کرده است، کاربران با استفاده از نوشتن اشتباه نامها یا شرحدادن فعالیتهای جنسی بهجای استفاده مستقیم از نامها در دستور، از این محدودیتها عبور میکنند.
مایکروسافت با ارسال بیانیهای برای 404مدیا، اعلام کرده است که شواهدی برای استفاده از Designer AI برای ایجاد تصاویر تیلور سوئیفت پیدا نکرده است. نماینده مایکروسافت درادامه توضیح داده است:
قوانین رفتاری ما استفاده از ابزارها برای ایجاد محتوای مخصوص بزرگسالان یا غیرمطابق با میل طرف دیگر را ممنوع میکند. هر تلاش تکراری برای تولید محتوایی که با سیاستهای ما در تضاد باشد، ممکن است به ازدستدادن دسترسی به سرویس منجر شود.
مایکروسافت هنوز بیانیه رسمی خود را درباره این موضوع منتشر نکرده است؛ اما مدیرعامل مایکروسافت، ساتیا نادلا، در مصاحبه با شبکه خبری NBC اعلام کرد:
فکر میکنم وقتی دنیای آنلاین دنیای امنی باشد، همه ما سود میبریم. بنابراین، فکر نمیکنم کسی بخواهد جهان آنلاین غیرایمن برای خالقان محتوا و مصرفکنندگان محتوا داشته باشد. پس وظیفه ماست که در این زمینه سریع عمل کنیم.
ویدئو
404مدیا اعلام کرد که پس از انتشار بررسی، بهنظر میرسد مایکروسافت ضعف را رفع کرده است و استفاده از تمام دستورها یا عبارتها برای دورزدن مسدودسازی کلمات کلیدی، دیگر در Designer AI کار نمیکند. بااینحال، گفته میشود که تلگرام هنوز تصمیمی اتخاذ نکرده است و کانالهای مرتبط همچنان فعال هستند و دنبال راهکارهایی برای بهرهبرداری از سایر خدمات هوش مصنوعی برای تولید تصاویر دیپفیک غیراخلاقی از سلبریتیها میگردند. علاوهبراین، کاربران در 4chan اعلام کردند که راههای دیگری برای دورزدن ممنوعیت بینگ و Designer پیدا کردهاند.
این خبر در زمان بدی برای مایکروسافت منتشر شده است؛ زیرا کمیسیون تجارت فدرال (FTC) بهتازگی اعلام کرده است که تحقیق درباره سرمایهگذاری مایکروسافت روی شرکتهای AI مولد را آغاز کرده است. گزارشی دیگر در اوایل این ماه نیز ادعا کرده است که FTC و وزارت دادگستری (DOJ) در حال بررسی رابطه مایکروسافت با OpenAI هستند.
