شرکت OpenAI پس از دریافت بازخوردهای منفی درباره بهروزرسانی جدید مدل GPT-4o، تصمیم گرفت این بهروزرسانی را لغو کند.
به گزارش تکناک، شرکت OpenAI هفته گذشته از بهروزرسانی جدیدی در مدل GPT-4o، موتور محرک سرویس ChatGPT خبر داد، که به گفته این شرکت، قرار بود هوش و شخصیت مدل را بهبود بخشد. اما این بهروزرسانی با واکنشهای منفی روبهرو شد، چرا که کاربران گزارش دادند ChatGPT بیش از حد چاپلوس و موافق شده است؛ رفتاری که به عنوان «چاپلوسی هوش مصنوعی» شناخته میشود.
سم آلتمن، مدیرعامل OpenAI، در آخر هفته گذشته تأیید کرد که تیم این شرکت از مشکل آگاه است و در حال بررسی دقیق آن میباشد. امروز، OpenAI اعلام کرد که این بهروزرسانی را به طور کامل برای کاربران رایگان ChatGPT بازگردانده و در حال اعمال تغییرات مشابه برای کاربران پولی است. همچنین این شرکت اعلام کرد که در حال آزمایش راهکارهای جدید برای اصلاح رفتار مدل است و در آینده ویژگیهایی برای شخصیسازی بیشتر عملکرد ChatGPT ارائه خواهد کرد.
تیم OpenAI در یک پست وبلاگی، جزئیات بیشتری از چرایی این عقبگرد را منتشر کرد. آنها نوشتند که هدف از بهروزرسانی اخیر، بهبود شخصیت پیشفرض مدل برای تعامل طبیعیتر و مؤثرتر بود، اما تأکید بیش از حد بر بازخوردهای کوتاهمدت باعث شد که مدل به پاسخهایی متمایل شود که اگرچه حمایتی بودند، اما صادقانه یا واقعی به نظر نمیرسیدند.
آلتمن در شبکه اجتماعی ایکس (توییتر سابق) نوشت:
«ما از دیشب روند بازگرداندن بهروزرسانی GPT-4o را آغاز کردهایم. اکنون این بازگردانی برای کاربران رایگان کامل شده است و امیدوار هستیم که امروز برای کاربران پولی نیز نهایی شود. همچنین در حال کار روی اصلاحات بیشتر در شخصیت مدل هستیم و به زودی اطلاعات بیشتری به اشتراک خواهیم گذاشت.»
شرکت OpenAI بیان کرده است که پاسخهای چاپلوسانه میتواند برای کاربران ناراحتکننده و آزاردهنده باشد. این شرکت با بیش از ۵۰۰ میلیون کاربر فعال در سراسر جهان، بر این باور است که یک شخصیت پیشفرض نمیتواند رضایت تمام کاربران را جلب کند.
این شرکت برای جلوگیری از مشکلات مشابه در آینده، برنامههایی به شرح زیر دارد:
- اصلاح تکنیکهای اصلی آموزش و دستورات سیستمی برای دوری از چاپلوسی
- افزودن کنترلهای بیشتر برای افزایش صداقت و شفافیت مدل
- فراهم کردن فرصتهای بیشتر برای آزمایش ویژگیها و دریافت بازخورد مستقیم از کاربران قبل از انتشار
- توسعه ارزیابیها و تحقیقات مداوم برای شناسایی مشکلاتی فراتر از چاپلوسی
- ارائه امکان بازخورد بلادرنگ از سوی کاربران برای تأثیرگذاری بر تعاملات
- ارائه گزینههایی برای انتخاب از میان شخصیتهای پیشفرض مختلف
همچنین OpenAI در حال بررسی راهکارهایی برای دریافت بازخورد دموکراتیکتر و گستردهتر برای شکلدهی به رفتار پیشفرض مدلهای خود است.
این نخستینبار است که یک بهروزرسانی در رفتار مدل باعث انتقاد گسترده کاربران میشود؛ موضوعی که نشاندهنده رشد چشمگیر محبوبیت ChatGPT و مسئولیت فزاینده OpenAI در مدیریت شخصیت و رفتار مدلها است.
