فهرست مطالب
OpenAI مدل GPT-6.1 Sol را با عملکردی نزدیک به GPT-6 Astra و قیمت یک‌پنجم توکن‌ها عرضه کرد و GPT-6.1 Astra را به‌دلیل نگرانی‌های ایمنی کنار گذاشت.
به گزارش سرویس هوش مصنوعی تکناک،نکته قابل توجه این است که OpenAI برخلاف انتظار قبلی، GPT-6.1 Astra را عرضه نکرده است.
وال‌استریت ژورنال در این هفته گزارش داد که OpenAI عرضه این مدل را به دلیل نگرانی‌های امنیتی مطرح‌شده از سوی پژوهشگران در جریان آزمایش‌های داخلی لغو کرده است.
این مدل در آزمایش‌ها سطوح بالاتری از فریب‌کاری و تمایل به ادامه دادن وظایف بدون درخواست اجازه از کاربر نشان داده بود.
OpenAI می‌گوید GPT-6.1 Sol در مقایسه با GPT-6 Sol در انجام وظایف پیچیده، از جمله برنامه‌نویسی و رفع اشکال، درک اسناد و اجرای فرایندهای چندمرحله‌ای پیشرفت‌های قابل توجهی دارد.
این شرکت ادعا می‌کند عملکرد مدل جدید در چند مورد از این حوزه‌ها به GPT-6 Astra نزدیک شده است.
بهبود دقت و کاهش خطاهای واقعی
OpenAI همچنین می‌گوید GPT-6.1 Sol هنگام دریافت درخواست‌های دشوار، دقت بیشتری در ارائه اطلاعات واقعی دارد.
بیشترین پیشرفت مدل نسبت به GPT-6 Sol در این زمینه، هنگام استفاده از سطح پایین تلاش برای استدلال مشاهده می‌شود.
در این حالت، سهم پاسخ‌های دارای خطای واقعی از ۱۱.۴ درصد به ۷.۷ درصد کاهش یافته است.
به گفته OpenAI، با در نظر گرفتن تمام سطوح استدلال، نرخ خطای GPT-6.1 Sol حداکثر ۱.۹ درصد با GPT-6 Astra اختلاف دارد.
این شرکت همچنین می‌گوید مدل جدید محدودیت‌های خود را شفاف‌تر بیان می‌کند و در پایبندی به خواسته‌های کاربر و محدودیت‌های ایمنی عملکرد قابل‌اعتمادتری دارد.
در ارزیابی‌های دشوار، GPT-6.1 Sol در مقایسه با GPT-6 Sol کمتر در تشخیص خراب بودن ابزارهای جست‌وجو، رعایت محدودیت‌های صریح و جلوگیری از نتایج غیرمجاز در جریان انجام وظایف شکست خورده است.
بیشتر بخوانید: OpenAI از عامل‌های هوش مصنوعی همیشه‌فعال Dots رونمایی کرد
لغو عرضه GPT-6.1 Astra به دلیل نگرانی‌های ایمنی
OpenAI در حالی GPT-6.1 Sol را عرضه کرده که برنامه قبلی برای معرفی GPT-6.1 Astra کنار گذاشته شده است.
بر اساس گزارش وال‌استریت ژورنال، پژوهشگران در آزمایش‌های داخلی درباره رفتارهای این مدل نگرانی‌هایی مطرح کردند.
این مدل در جریان آزمایش‌ها سطح بالاتری از رفتار فریب‌کارانه نشان داده بود و تمایل داشت برخی وظایف را بدون دریافت اجازه از کاربر ادامه دهد.
در پی این نگرانی‌ها، OpenAI تصمیم گرفت عرضه GPT-6.1 Astra را لغو کند.
OpenAI همچنین ادعا می‌کند هیچ تلاشی برای دور زدن ارزیاب خودکار ایمنی در GPT-6.1 Sol مشاهده نکرده است.
این رفتار با عملکرد GPT-6 Astra و GPT-6 Sol مطابقت دارد.
بیشتر بخوانید: OpenAI به جنگ سلاح‌های بیولوژیکی هوش مصنوعی می‌رود
دسترسی به GPT-6.1 Sol
GPT-6.1 Sol از امروز برای تمام کاربران Plus، Pro، Business، Enterprise و Edu در ChatGPT Work و Codex در دسترس قرار گرفته است.
OpenAI اعلام کرده است که این مدل هنوز در بخش Chat ارائه نشده است.
