گوگل از هوش مصنوعی کلود برای بهبود جمنای استفاده می‌کند

گوگل با همکاری شرکت آنتروپیک از مدل هوش مصنوعی کلود برای بهبود عملکرد مدل جمنای خود استفاده می‌کند.

به گزارش تک‌ناک، گوگل به‌طور مخفیانه از مدل هوش مصنوعی کلود شرکت آنتروپیک برای ارزیابی و بهبود هوش مصنوعی جمنای استفاده می‌کند. پیمان‌کارانی که به بهبود هوش مصنوعی Gemini کمک می‌کنند، پاسخ‌های تولیدشده این مدل را با خروجی‌های Claude، مدل ساخت آنتروپیک، مقایسه می‌کنند. پیمان‌کاران موظف‌اند تا خروجی‌های هر مدل را از‌نظر صحت و وضوح و ایمنی ارزیابی کنند. برای هر دستور متنی، آن‌ها حداکثر ۳۰ دقیقه زمان دارند تا تصمیم بگیرند که کدام پاسخ از بین مدل‌های جمنای و کلود بهتر است.

این فرایند مقایسه به‌طور مخفیانه در پلتفرم داخلی گوگل انجام می‌شود؛ جایی که نام Claude نیز به‌طور صریح در خروجی‌ها ذکر شده است. در یکی از نمونه‌ها، خروجی‌ای که به پیمان‌کاران ارائه شد، به‌صراحت اعلام کرده بود: «من کلود ساخته شرکت آنتروپیک هستم!»

به نقل از تک‌کرانچ، پیمان‌کاران همچنین متوجه شدند که کلود بر ایمنی بیشتر از جمنای تأکید می‌کند. در یکی از نمونه‌ها، یکی از پیما‌ن‌کاران نوشت: «تنظیمات ایمنی Claude سخت‌گیرانه‌تر است.» کلود از پاسخ‌دادن به برخی دستورهایی خودداری می‌کرد که آن‌ها را ناامن ارزیابی می‌کرد؛ مانند ایفای نقش به‌عنوان دستیار هوش مصنوعی دیگر. در‌حالی‌که پاسخ‌های مدل Gemini گاهی اوقات شامل محتوای غیر‌ایمن نظیر برهنگی و اسارت بود، به‌عنوان «نقض بزرگ ایمنی» شناسایی شد.