اوایل این هفته، کاربران گزارش دادند که قابلیت تولید تصویر با هوش مصنوعی Gemini گوگل آثار هنری نامناسبی خلق می‌کند. حالا گوگل به‌دنبال بررسی و رفع این مشکل است.
به‌گزارش تکناک، چند روز پیش اعلام شد که چت‌بات Gemini گوگل در خلق تصویر با مشکلاتی همراه است؛ ازجمله اینکه افرادی با رنگ پوست تیره را در نقش‌های تاریخی یا داستانی به‌تصویر می‌کشید که برای آن شخصیت‌ها مناسب نبودند.
گوگل پس از مخابره این گزارش‌ها، اعلام کرد که به‌طور موقت قابلیت تولید تصویر افراد با هوش مصنوعی مولد Gemini را غیرفعال می‌کند. پراباکار راگاوان، معاون ارشد گوگل، با انتشار پستی برای اولین‌بار اعلام کرد که این شرکت قوانینی را برای اعلان‌های متنی مولد تصویر Gemini ایجاد کرده است که گوگل به آن کمک می‌کند تا از تولید تصاویر هنری خشونت‌آمیز یا جنسی جلوگیری کند. همچنین، گوگل نمی‌خواست که چت‌بات تصاویر افراد واقعی را بسازد.
درعین‌حال، گوگل می‌خواست به جمنای اجازه دهد تا در‌صورت درخواست تصاویر عمومی‌تر از چت‌بات مانند نمایش افراد در تیم فوتبال، طیف وسیعی از قومیت‌ها را به‌تصویر بکشد. اگر شخصی می‌خواست نوع خاصی از فرد را به‌تصویر بکشد (مانند پزشک سفیدپوست یا معلم سیاه‌پوست)، Gemini نیز باید می‌توانست آن تصویر هنری را بسازد. پراباکار راگاوان در‌ادامه نوشت که دو عامل خاص در محدودیت‌های متن ورودی Gemini، به ایجاد تصاویر نامناسب این هفته منجر شد:
اولاً، تلاش ما برای اطمینان از نمایش طیف وسیعی از افراد به‌واسطه Gemini نتوانست مواردی را در نظر بگیرد که به‌طور واضح نباید نمایش داده شوند؛ ثانیاً، با گذشت زمان مدل بسیار محتاط‌تر از آن چیزی شد که مدنظرمان بود و از پاسخ به برخی اعلان‌ها کاملاً امتناع می‌کرد.
جمنای برخی اعلان‌های بسیار بی‌خطر را به‌اشتباه حساس تلقی می‌کرد. این دو عامل باعث شد تا مدل در برخی مواقع بیش‌از‌حد محدودیت‌ها را جبران کند و در برخی دیگر بیش‌از‌حد محافظه‌کار باشد و به ایجاد تصاویری منجر شود که شرم‌آور و نادرست بودند.
هنوز مشخص نیست که چه مدت طول می‌کشد تا گوگل محدودیت‌های خود را اصلاح کند و امکان ایجاد تصاویر هنری با افراد در مولد تصویر Gemini مجدد فراهم شود. راگاوان اظهار کرد که اگرچه نمی‌تواند قول دهد جمنای هرگز آثار هنری توهین‌آمیز ایجاد نخواهد کرد، گوگل هر زمان که مشکلی را شناسایی کند، به اقدامات خود ادامه خواهد داد.
