میدجرنی در حال توسعه ابزاری است که به کاربران وب اجازه می‌دهد تا با هوش مصنوعی، بافت و رنگ و جزئیات تصاویر را به‌دلخواه خود تغییر دهند.
به‌گزارش تکناک، میدجرنی، یکی از پلتفرم‌های پیشرو در حوزه هوش مصنوعی، اعلام کرده است که به‌زودی ابزار وب ارتقایافته‌ای را منتشر خواهد کرد که به کاربران اجازه می‌دهد تا تصاویر آپلودشده در وب را با استفاده از هوش مصنوعی مولد این شرکت ویرایش کنند. به‌گفته دیوید هولتز، مدیرعامل میدجرنی، این ابزار جدید اوایل هفته آینده دردسترس قرار می‌گیرد. جدیدترین ابزار میدجرنی به کاربران وب امکان می‌دهد تا اشیای موجود در تصاویر را دوباره بافت‌دهی کنند و رنگ‌ها و جزئیات آن‌ها را بر‌اساس توضیحات متنی تغییر دهند.
ویرایش تصاویر موجود با هوش مصنوعی به‌تازگی به یکی از موضوعات داغ در فضای دیجیتال تبدیل شده است. پلتفرم‌های بزرگ مانند متا به‌دنبال راه‌هایی برای برچسب‌گذاری تصاویر ویرایش‌شده با ابزارهای هوش مصنوعی و تفکیک آن‌ها از تصاویری هستند که به‌طور کامل با مدل‌های هوش مصنوعی تولید شده‌اند. در همین حال، شرکت‌هایی مانند گوگل قابلیت‌های قدرتمند هوش مصنوعی را ارائه داده‌اند که هیچ نشانه بصری از ویرایش هوش مصنوعی در تصاویر باقی نمی‌گذارند.
میدجرنی سال گذشته به استفاده از ویژگی Digital Source Type از IPTC متعهد شد. این استاندارد فنی متادیتاهایی را در تصاویر قرار می‌دهد تا نشان دهد که آن‌ها با هوش مصنوعی تولید شده‌اند. باوجوداین، شرکت مذکور هنوز از فناوری C2PA بهره نمی‌برد. C2PA نوعی سیستم متادیتا برای ردیابی منشأ کامل تصاویر شامل تجهیزات و نرم‌افزارهای استفاده‌شده است.
در پست در حساب رسمی دیسکورد میدجرنی، هولتز اعلام کرد که ابزار ویرایش تصویر جدید ابتدا دردسترس زیرمجموعه‌ای از جامعه فعلی قرار خواهد گرفت و نظارت انسانی بیشتری به‌همراه «مدیران هوش مصنوعی پیشرفته‌تر» به‌کار گرفته خواهد شد تا از سوءاستفاده‌های احتمالی جلوگیری شود. او اذعان کرد که به‌طور دقیق نمی‌داند چگونه می‌توان محدودیت‌های لازم را برای استفاده از این ویژگی اعمال و از کاربران درخواست کرد از‌طریق نظرسنجی بازخورد دهند تا تصمیم بگیرند کدام کاربران ابتدا به این ابزار دسترسی پیدا کنند.
تک‌کرانچ می‌نویسد که انتشار ابزارهای ویرایش تصویر بدون تدابیر امنیتی کافی می‌تواند خطرهای جدی به‌همراه داشته باشد. این ابزارها ممکن است نقض حقوق کپی‌رایت را در مقیاس وسیع تسهیل یا به گسترش دیب‌فیک‌های گمراه‌کننده کمک کنند. این نوع محتوای جعلی با سرعت زیادی در شبکه‌های اجتماعی در حال گسترش است و تشخیص حقیقت از اطلاعات نادرست را سخت‌تر می‌کند. اخیراً پس از طوفان هِلن در آمریکا، تصاویر جعلی و تولیدی با هوش مصنوعی از ویرانی‌ها و رنج‌های انسانی به‌طور گسترده در فضای آنلاین منتشر شد.
طبق داده‌های Clarity، شرکت فعال در‌زمینه تشخیص دیپ‌فیک، امسال درمقایسه‌با سال گذشته ۹۰۰ درصد تصاویر دیپ‌فیک بیشتری ایجاد و منتشر شده است. این افزایش شدید باعث نگرانی بسیاری از افراد شده است. نظرسنجی YouGov نشان داد که ۸۵ درصد از آمریکایی‌ها نگران گسترش دیپ‌فیک‌های گمراه‌کننده در فضای آنلاین هستند.
در غیاب قانون در سطح فدرال در ایالات متحده برای جرم‌انگاری دیپ‌فیک، بیش از ۱۰ ایالت قوانین خاص خود را علیه جعل هویت با کمک هوش مصنوعی تصویب کرده‌اند. قانون ایالتی کالیفرنیا که در‌حال‌حاضر به حالت تعلیق درآمده است، اولین قانونی خواهد بود که به قضات اختیار می‌دهد تا از منتشرکنندگان دیپ‌فیک درخواست کنند که محتوای جعلی را حذف کنند یا در‌غیر‌این‌صورت با جریمه‌های مالی مواجه شوند.
میدجرنی تاکنون نتوانسته است به‌عنوان نمونه‌ای از پیاده‌سازی مسئولانه هوش مصنوعی شناخته شود. این شرکت به‌دلیل استفاده غیرمجاز از محتوای دارای حقوق کپی‌رایت برای آموزش مدل‌های هوش مصنوعی خود تحت پیگرد قانونی قرار دارد. با‌این‌حال، در ماه‌های اخیر این پلتفرم اقداماتی را برای محدود‌کردن گسترش دیپ‌فیک‌ها انجام داده است؛ از‌جمله افزودن فیلترهایی برای جلوگیری از انتشار تصاویر جعلی شخصیت‌های سیاسی در آستانه انتخابات ریاست‌جمهوری ایالات متحده.
