برنامه هوش مصنوعی OpenAI پس از اینکه در ابتدا ویرایش چهره ها با DALL-E2 غیرفعال کرد، امروز اعلام کرد که مشتریانی که به DALL-E 2 دسترسی دارند میتوانند چهره افراد را برای ویرایش آنها با استفاده از سیستم تولید تصویر مبتنی بر هوش مصنوعی آپلود کنند.
به گزارش تک ناک، پیش از این، OpenAI (American artificial intelligence research organization) فقط به کاربران اجازه می داد با چهره های واقع گرایانه کار کنند و آن را به اشتراک بگذارند و آپلود هر عکسی که ممکن بود یک شخص واقعی را به تصویر بکشد، از جمله عکس های افراد مشهور و چهره های عمومی را ممنوع کرده بود.
برنامه OpenAI ادعا می کند که با بهبود سیستم حفاظتی ، ویژگی ویرایش چهره ها با DALL-E2 را با “به حداقل رساندن احتمال آسیب” از دیپ فیک ها و همچنین تلاش برای ایجاد محتوای جنسی، سیاسی و خشونت آمیز امکان پذیر کرده است. این شرکت در ایمیلی به مشتریان نوشت:
“بسیاری از شما به ما گفتهاید که دلتان برای استفاده از DALL-E برای رویاپردازی لباسها و مدلهای مو و ویرایش پسزمینه عکسهای خانوادگی تنگ شده است. یک جراح ترمیمی به ما گفت که از DALL-E برای کمک به بیمارانش در تجسم نتایج استفاده میکرده است و فیلمسازان به ما گفتهاند که میخواهند بتوانند تصاویر صحنهها را با افراد ویرایش کنند تا به سرعت بخشیدن به فرآیندهای خلاقانه آنها کمک کنند… [ما] تکنیکهای جدید تشخیص و واکنش را برای جلوگیری از سوء استفاده ایجاد کردیم.”
تغییر در سیاست لزوما باز کردن دریچه ها نیست. OpenAI به ممنوعیت آپلود تصاویر افراد بدون رضایت آنها یا تصاویری که کاربران حق استفاده از آنها را ندارند ادامه خواهد داد – اگرچه مشخص نیست که شرکت از لحاظ تاریخی تا چه اندازه در مورد اجرای این سیاست ها مصر بوده است.
در هر صورت، این یک آزمایش واقعی برای فناوری فیلتر OpenAI (سازمانی تحقیقاتی در زمینهی هوش مصنوعی) خواهد بود، .برخی از مشتریان در گذشته از بیش از حد سختگیر بودن و تا حدودی نادرست بودن فیلتر این برنامه شکایت داشتند. دیپ فیک ها انواع مختلفی دارند، از عکس های جعلی در مسافرت گرفته تا روسای جمهور کشورهای جنگ زده. رسیدگی به هر نوع سوء استفاده مخصوصا در موارد با حساسیت بالا یک نبرد بی پایان برای این برنامه خواهد بود
بدون شک، OpenAI – که از حمایت مایکروسافت و شرکت های VC قابل توجه از جمله Khosla Ventures برخوردار است – مشتاق است تا از بحث و جدل مرتبط با Stable Diffusion Stability AI (یک سیستم تولید تصویر که در قالب منبع باز بدون هیچ محدودیتی در دسترس است)اجتناب کند. همانطور که TechCrunch اخیراً در مورد آن نوشته است، طولی نکشید که Stable Diffusion – که می تواند تصاویر چهره را نیز ویرایش کند – توسط برخی برای ایجاد دیپ فیک های مستهجن و بدون رضایت از افراد مشهوری مانند اما واتسون استفاده شد.
