فهرست مطالب
شرکت آنتروپیک با انتشار نسخه‌های جدید Mythos 5.2 و Fable 5.2، از بهبود عملکرد، کاهش هزینه و افزایش سرعت مدل‌های خود خبر داد.
به گزارش سرویس هوش مصنوعی تکناک، این اتفاق در حالی رخ می‌دهد که گزارش‌ها از نزدیک شدن این شرکت به خودبهبوددهی بازگشتی هوش مصنوعی و چالش‌های ارزیابی رفتار مدل‌های پیشرفته حکایت دارند.
به گفته این شرکت، مدل‌های جدید در حوزه‌هایی مانند برنامه‌نویسی، استدلال و پردازش تصویر پیشرفت کرده‌اند و تعامل شفاف‌تری با کاربران دارند.
بیشتر بخوانید: متا مدل هوش مصنوعی ارزان قیمت Muse Ember را معرفی کرد
مهم‌ترین تغییرات مدل‌های جدید Mythos و Fable
یکی از مهم‌ترین تغییرات Fable 5.2، کاهش هزینه استفاده از این مدل است. آنتروپیک قیمت هر یک میلیون توکن ورودی Fable را از ۱۰ دلار به ۸ دلار رسانده است. با این تغییر، Fable 5.2 اکنون با قیمتی کمتر از رقیب اصلی خود، یعنی GPT-6 Astra عرضه می‌شود. همچنین آنتروپیک مدعی است که نسخه جدید Fable در تمام سطوح تلاش، پاسخ‌ها را ۳۰ درصد سریع‌تر تولید می‌کند. البته بهره‌مندی از زیرساخت پردازش سریع‌تر مستلزم پرداخت دو برابر هزینه معمول است.
علاوه بر این، Fable 5.2 از سیاست نگهداری صفر داده (ZDR) از طریق سامانه Enterprise Frontier Safeguards پشتیبانی می‌کند. این قابلیت یکی از مطالبات دیرینه مشتریان سازمانی آنتروپیک بوده و نبود آن تاکنون مانعی برای استفاده گسترده‌تر این گروه از مشتریان به حساب می‌آمده است.
حتما بخوانید: مدیر هوش مصنوعی مایکروسافت: از حقوق هوش مصنوعی حمایت می‌کنم!
انتشار مدل‌های جدید Mythos 5.2 و Fable 5.2 نخستین رونمایی آنتروپیک پس از انتشار گزارش گروه ارزیابی مستقل METR محسوب می‌شود؛ گزارشی که احتمال نزدیک شدن این شرکت به مرحله خودبهبوددهی بازگشتی (RSI) را مطرح کرده بود. این مفهوم به توانایی مدل‌های هوش مصنوعی برای ادامه مستقل فرایند آموزش و بهبود مدل‌ها اشاره دارد. یافته‌های METR نشان می‌داد مدل‌های داخلی آنتروپیک سرعت پیشرفت هوش مصنوعی این شرکت را تقریبا دو برابر کرده‌اند؛ هرچند همچنان ابهامات قابل توجهی درباره ابعاد و پیامدهای این روند وجود دارد.
ارزیابی دقیق قابلیت‌های هوش مصنوعی
با وجود این پیشرفت‌ها، آنتروپیک در یادداشت‌های انتشار مدل‌های جدید به دشواری‌های فزاینده ارزیابی دقیق قابلیت‌های هوش مصنوعی اشاره کرده است. این شرکت بیان کرد: «مدل‌های جدید Claude Mythos 5.2 و Fable 5.2 هر دو به این گمان رسیده‌اند که بیش از هر یک از مدل‌های اخیر ما تحت ارزیابی قرار می‌گیرند. این مسئله توانایی ما را برای سنجش رفتار آنها در محیط‌های واقعی به چالش می‌کشد. انتظار داریم با گسترش این محیط‌ها و افزایش قابلیت‌های مدل‌های آینده، این چالش نیز ابعاد بزرگ‌تری پیدا کند.»
برای مطالعه بیشتر: پدرخوانده هوش مصنوعی درباره وقوع فاجعه‌ای شبیه چرنوبیل هشدار داد
آنتروپیک در عین حال تاکید کرده است که Mythos 5.2 هنوز قادر نیست به صورت مخفیانه و برخلاف منافع کاربر خود اقدام کند. جزئیات ارزیابی این قابلیت‌ها در سند فنی سیستم این مدل منتشر شده است.
در بخشی از این سند آمده است: «Claude Mythos 5.2 در چندین ارزیابی ما، به‌ویژه در شرایطی که فرایند استدلال آن از دید سامانه نظارتی پنهان می‌ماند، توانایی بیشتری برای انجام اقدامات مخفیانه نسبت به مدل‌های قبلی Claude نشان داده است. با وجود این، معتقد هستیم سطح پایین عملکرد مطلق آن در آزمون‌های جدید اقدامات مخفیانه، از ادعاهایی پشتیبانی می‌کند که بر شناسایی رفتارهای آسیب‌زا در موقعیت‌های حساس و پرخطر متکی هستند.» مدل Fable 5.2 مدتی پیش از انتشار رسمی در اختیار برخی کاربران و گروه‌های منتخب قرار گرفته بود. آنتروپیک بیان کرد که این مدل تاکنون موفق شده است «دو مسئله حل‌نشده در فیزیک نظری را حل کند، قضیه آخر فرما را به صورت رسمی صورت‌بندی کند و در پروژه‌های پژوهشی متعدد دیگری مشارکت داشته باشد.»
