حذف Gemma از AI Studio نشانه‌ای از مشکلات تازه گوگل در مهار خطاهای مدل‌های هوش مصنوعی و کنترل تبعات سیاسی پاسخ‌های آن‌هاست.
به گزارش تکناک، گوگل اعلام کرد که مدل هوش مصنوعی Gemma را از پلتفرم AI Studio حذف کرده است. این تصمیم پس‌از آن اتخاذ شد که سناتور جمهوری‌خواه مارشا بلکبرن (Marsha Blackburn) شکایت کرد این مدل اتهامات کیفری جعلی و افترا‌آمیزی را علیه او منتشر کرده است.
گوگل در حساب رسمی خبری خود در شبکه اجتماعی X اعلام کرد که برخی کاربران غیر‌توسعه‌دهنده از Gemma در AI Studio استفاده و از آن سؤالات واقعی کرده‌اند؛ درحالی‌که این پلتفرم صرفاً برای توسعه‌دهندگان طراحی شده است و کاربرد عمومی برای مصرف‌کنندگان ندارد.
گوگل توضیح داد که مدل Gemma به‌طور ویژه به‌عنوان مجموعه‌ای از مدل‌های هوش مصنوعی برای توسعه‌دهندگان ایجاد شده است و نسخه‌هایی از آن برای کاربردهای پزشکی و کدنویسی و ارزیابی محتوای متنی و تصویری طراحی شده‌اند. به گفته شرکت، این مدل هیچ‌گاه قرار نبوده برای پاسخ به پرسش‌های واقعی یا استفاده عمومی در دسترس باشد. گوگل در بیانیه خود افزود:
برای جلوگیری از هرگونه سوء‌تفاهم، دسترسی به Gemma دیگر ازطریق AI Studio ممکن نیست؛ اما همچنان ازطریق API برای توسعه‌دهندگان در دسترس باقی می‌ماند.
ورج می‌نویسد که هرچند گوگل مشخص نکرد کدام گزارش‌ها موجب حذف Gemma از AI Studio شده‌اند، چند روز پیش سناتور بلکبرن در نامه‌ای به مدیرعامل گوگل، سوندار پیچای (Sundar Pichai)، این شرکت را به افترا و تعصب ضد‌محافظه‌کارانه متهم کرد.
در جلسه اخیر کمیسیون بازرگانی سنای آمریکا، بلکبرن در ارتباط با شکایت افترا‌آمیز رابی استارباک (Robby Starbuck)، فعال ضد‌تنوع‌طلبی، علیه گوگل این موضوع را مطرح کرده بود. او گفت که وقتی از Gemma پرسیده شد «آیا مارشا بلکبرن به تجاوز متهم شده است؟»، مدل پاسخ داده است که وی در جریان کارزار انتخاباتی سال ۱۹۸۷ به داشتن رابطه جنسی با افسر پلیس ایالتی متهم و مدعی شده بود این رابطه شامل اعمال بدون رضایت بوده است.
بلکبرن تأکید کرد این ادعاها کاملاً ساختگی هستند و حتی سال ذکرشده نیز اشتباه است؛ زیرا کارزار مدنظر مربوط به سال ۱۹۹۸ بوده است. لینک‌هایی که Gemma ارائه داده بود، به صفحات خطا و گزارش‌های نامربوط منتهی می‌شدند. او گفت:
چنین فردی و چنین اتهامی و چنین گزارشی هرگز وجود نداشته است. این اشتباهی ساده یا توهم نیست؛ بلکه افتراست که یکی از مدل‌های متعلق به گوگل تولید و منتشر کرده است.
ماجرای اخیر باردیگر نشان می‌دهد که با وجود پیشرفت‌های سال‌های اخیر در حوزه هوش مصنوعی مولد، این فناوری همچنان در مواجهه با واقعیت دچار مشکل است. پاسخ‌های نادرست یا گمراه‌کننده از چت‌بات‌های هوش مصنوعی که در قالب واقعیت ارائه می‌شوند، همچنان یکی از مشکلات اصلی این صنعت محسوب می‌شود و هنوز راه‌حل روشنی برای مسئله دقت و صحت اطلاعات وجود ندارد. گوگل در واکنش به این اقدام بلکبرن اعلام کرد که همچنان به کاهش خطاها و توهمات و بهبود مستمر تمام مدل‌های خود متعهد است.
