گوگل با همکاری شرکت آنتروپیک از مدل هوش مصنوعی کلود برای بهبود عملکرد مدل جمنای خود استفاده می‌کند.
به گزارش تکناک، گوگل به‌طور مخفیانه از مدل هوش مصنوعی کلود شرکت آنتروپیک برای ارزیابی و بهبود هوش مصنوعی جمنای استفاده می‌کند. پیمان‌کارانی که به بهبود هوش مصنوعی Gemini کمک می‌کنند، پاسخ‌های تولیدشده این مدل را با خروجی‌های Claude، مدل ساخت آنتروپیک، مقایسه می‌کنند. پیمانکاران موظف‌اند تا خروجی‌های هر مدل را از‌نظر صحت و وضوح و ایمنی ارزیابی کنند. برای هر دستور متنی، آنها حداکثر ۳۰ دقیقه زمان دارند تا تصمیم بگیرند که کدام پاسخ از بین مدل‌های جمنای و کلود بهتر است.
این فرایند مقایسه به‌طور مخفیانه در پلتفرم داخلی گوگل انجام می‌شود؛ جایی که نام Claude نیز به‌طور صریح در خروجی‌ها ذکر شده است. در یکی از نمونه‌ها، خروجی‌ای که به پیمانکاران ارائه شد، به‌صراحت اعلام کرده بود: «من کلود ساخته شرکت آنتروپیک هستم!»
به نقل از تک‌کرانچ، پیمانکاران همچنین متوجه شدند که کلود بر ایمنی بیشتر از جمنای تأکید می‌کند. در یکی از نمونه‌ها، یکی از پیمانکاران نوشت: «تنظیمات ایمنی Claude سخت‌گیرانه‌تر است.» کلود از پاسخ‌دادن به برخی دستورهایی خودداری می‌کرد که آنها را ناامن ارزیابی می‌کرد؛ مانند ایفای نقش به‌عنوان دستیار هوش مصنوعی دیگر. در‌حالی‌که پاسخ‌های مدل Gemini گاهی اوقات شامل محتوای غیر‌ایمن نظیر برهنگی و اسارت بود، به‌عنوان «نقض بزرگ ایمنی» شناسایی شد.
ممنوعیت استفاده از کلود برای رقابت با محصولات آنتروپیک
شرایط تجاری خدمات آنتروپیک به‌طور صریح استفاده از مدل کلود برای ساخت محصولات رقابتی یا آموزش مدل‌های هوش مصنوعی رقیب را بدون دریافت تأیید از این شرکت ممنوع می‌کند. گوگل، یکی از سرمایه‌گذاران اصلی آنتروپیک، باید اجازه رسمی برای استفاده از کلود را از این شرکت دریافت کرده باشد؛ اما در این زمینه اطلاعات دقیقی در دسترس نیست.
در‌حالی‌که گوگل به بهبود و ارزیابی هوش مصنوعی جمنای ادامه می‌دهد، پیمانکاران این شرکت نگرانی‌هایی را مطرح کرده‌اند. برخی از پیمانکاران به‌ویژه از احتمال تولید اطلاعات نادرست به‌وسیله جمنای در موضوعات حساس مانند مراقبت‌های بهداشتی ابراز نگرانی کرده‌اند. به گفته آنها، این مدل ممکن است در زمینه‌های پیچیده و تخصصی، نتایج نادرستی تولید کند که می‌تواند تأثیرات منفی بر کاربران بگذارد.
در‌حالی‌که استفاده از مدل‌های هوش مصنوعی رقیب برای ارزیابی عملکرد در بسیاری از صنایع معمول است، در این نمونه خاص، به‌دلیل مسائل مربوط به مجوزها و شرایط تجاری، ممکن است نگرانی‌هایی در پی داشته باشد. استفاده گوگل از کلود برای مقایسه با جمنای می‌تواند پیچیدگی‌های حقوقی و اخلاقی ایجاد کند؛ به‌ویژه در شرایطی که این شرکت به‌عنوان یکی از سرمایه‌گذاران اصلی آنتروپیک، باید مجوز استفاده از مدل این شرکت را دریافت کرده باشد.
