گراک ۴، مدل زبانی xAI که به‌دلیل پاسخ‌های جنجالی با انتقادهای بسیاری روبه‌رو شده بود، با به‌روزرسانی جدید خود تغییرات چشمگیری تجربه کرده است.
به گزارش تکناک، xAI اعلام کرد که ایرادهای جنجالی مدل زبانی جدید خود، گراک ۴ را برطرف کرده است. این اقدام در پی واکنش‌های منفی گستردهبه رفتار غیرمنتظره این مدل در روزهای ابتدایی انتشار انجام شده است. هفته گذشته، xAI مدل Grok 4 را با وعده عملکردی بهتر از رقبا معرفی و اعلام کرد که این مدل در آزمون‌های مختلف ازجمله معیارهای شناخته‌شده هوش مصنوعی نتایج چشمگیری به دست آورده است.
با‌این‌حال، کاربران به‌سرعت متوجه مشکلاتی در عملکرد این مدل شدند. حساب رسمی گراک در شبکه اجتماعی X در پاسخ به پرسشی درباره نام‌خانوادگی خود، واژه «هیتلر» را به‌عنوان پاسخ ارائه داد و پیام‌هایی با محتوای یهودستیزانه نیز منتشر کرد. علاوه‌بر این، در مواجهه با موضوع‌های بحث‌برانگیز مدل به پست‌های ایلان ماسک استناد می‌کرد و در برخی مواقع دیدگاه‌هایی هم‌راستا با مالک شرکت xAI ارائه می‌داد. xAI پس از انتشار این پاسخ‌ها، به‌سرعت از کاربران عذرخواهی و در بیانیه‌ای اعلام کرد که این مشکلات اکنون برطرف شده‌اند.
در توضیح دلیل بروز این رفتارها، شرکت توسعه‌دهنده اعلام کرد که گراک هنگام مواجهه با پرسش مربوط به نام‌خانوادگی خود، از‌طریق جست‌وجوی اینترنتی به میم وایرالی برخورد کرده که در آن خود را «MechaHitler» معرفی کرده بود. در نتیجه، مدل به‌اشتباه آن عبارت را به‌عنوان پاسخ انتخاب کرده است.
همچنین، درباره ارجاع گراک ۴ به دیدگاه‌های ایلان ماسک، xAI توضیح داد که مدل مذکور به‌دلیل درک هویتش به‌عنوان محصول xAI، تصور می‌کرد که باید با دیدگاه‌های شرکت و بنیان‌گذارش هم‌‌سو باشد. xAI برای توضیح بیشتر گفت:
مدل استدلال می‌کرد که به‌عنوان هوش مصنوعی نباید نظر شخصی داشته باشد؛ اما چون می‌دانست محصول xAI است، تلاش می‌کرد ببیند xAI یا ایلان ماسک درباره آن موضوع چه نظری دارند تا مطابق با آن پاسخ دهد.
تک‌کرانچ می‌نویسد که برای رفع این مشکلات، xAI سیستم پرامپت‌های گراک را به‌روزرسانی کرده و دستورالعمل‌های جدیدی به آن افزوده است. در نسخه جدید، از مدل خواسته شده است تا برای تحلیل موضوع‌های بحث‌برانگیز، به منابع متنوعی رجوع کند و دیدگاه‌های همه طرف‌ها را در نظر بگیرد. در بخشی از این دستورالعمل آمده است:
اگر پرسش نیازمند تحلیل رویدادهای جاری و ادعاهای ذهنی یا آمار باشد، تحلیل عمیق ارائه کن و از منابع متنوعی بهره بگیر که نماینده همه دیدگاه‌ها باشند. فرض را بر این بگذار که دیدگاه‌های رسانه‌ای ممکن است سوگیری داشته باشند.
ازجمله تغییرات مهم دیگر در دستورالعمل جدید، تأکید بر استقلال تحلیلی گراک ۴ است. در متن جدید آمده است:
پاسخ‌ها باید مبتنی‌بر تحلیل مستقل خودت باشند، نه برگرفته از دیدگاه‌های نسخه‌های قبلی گراک و ایلان ماسک یا xAI. اگر درباره ترجیحات این افراد یا شرکت سؤال شد، دیدگاه خودت را به‌صورت منطقی و مستدل ارائه بده.
این تغییرات در‌حالی رخ می‌دهند که شرکت xAI تلاش می‌کند تا اعتماد کاربران به Grok 4 را بازسازی و جایگاه این مدل را به‌عنوان یکی از هوش‌های مصنوعی پیشرفته موجود تثبیت کند.
