فهرست مطالب
گوگل قابلیت ساخت تصاویر جعلی با ابزار نانو بنانا ۲ را در اپلیکیشن گوگل ارث لغو کرد تا از انتشار اطلاعات نادرست جغرافیایی و محتوای گمراهکننده جلوگیری کند.
به گزارش سرویس هوش مصنوعی تکناک، گوگل روز پنجشنبه قابلیت جدیدی را عرضه کرد که به کاربران اجازه میداد از Nano Banana 2، ابزار تولید تصویر هوش مصنوعی این شرکت، برای ساخت تصاویر جعلی درون اپلیکیشن نقشهمحور Google Earth استفاده کنند؛ اپلیکیشنی که تصاویر ماهوارهای را نمایش میدهد. گوگل اعلام کرده بود هدف اصلی از ارائه این قابلیت، استفاده خلاقانه از جغرافیا است.
بااینحال، منتقدان خیلی زود هشدار دادند که از این ابزار میتوان برای تولید و انتشار اطلاعات نادرست استفاده کرد. نانو بنانا ۲ که بر اساس فرمانهای متنی کار میکرد، امکان قرار دادن تقریبا هر تصویری روی نقشههای واقعی را فراهم میکرد و به نظر میرسید زمینهساز موجی گسترده از محتوای بیکیفیت و گمراهکننده جغرافیایی باشد.
خطر تولید تصاویر جعلی جغرافیایی؛ وقتی هوش مصنوعی واقعیت را تغییر میدهد
یکی از خبرنگاران بیبیسی روز پنجشنبه با لحنی طعنهآمیز در شبکههای اجتماعی نوشت: «هیچ راهی وجود ندارد که این قابلیت جدید تولید تصویر هوش مصنوعی در Google Earth، که یکی از قابلاعتمادترین منابع شواهد بصری برای خبرنگاران و پژوهشگران است، بتواند برای انتشار اطلاعات نادرست در اینترنت مورد سوءاستفاده قرار بگیرد.»
مرتبط: گوگل با هوش مصنوعی امنیت مرورگر کروم را متحول می کند
اکنون، تنها یک روز پس از عرضه این قابلیت، گوگل آن را لغو کرده است.
تولید محتوای جعلی با فرمانهای متنی؛ تهدیدی برای اعتبار گوگل ارث
این شرکت در بیانیهای اعلام کرد: «مشاهده شده است که متخصصان حوزه جغرافیایی از این قابلیت برای اهداف مفید مختلفی استفاده میکنند، اما در عین حال، تصاویری از محتوای تولیدشده نیز به اشتراک گذاشته شده است که به نظر میرسد قوانین ما را نقض میکنند.»
گوگل افزود: «در حالی که روی اجرای سازوکارهای حفاظتی قدرتمندتر کار میکنیم، این قابلیت را از Google Earth حذف خواهیم کرد.»
به نوشته تککرانچ، انتقادها از ابزار گوگل قابلدرک است، هرچند باید توجه داشت که در عصر هوش مصنوعی، امکان دستکاری بخش بزرگی از تصاویری که در اینترنت وجود دارند، بهسادگی فراهم شده است.
دیگر برای ساخت اطلاعات نادرست و نسبتا باورپذیر، نیازی نیست فرد در کار با فتوشاپ مهارت زیادی داشته باشد؛ تنها دسترسی به یک ابزار تولید تصویر هوش مصنوعی کافی است، ابزاری که گوگل و بسیاری از شرکتهای فعال در حوزه هوش مصنوعی ارائه میکنند.
