فهرست مطالب
شرکت آنتروپیک پس از چند هفته مذاکره با دولت دونالد ترامپ، اعلام کرد که دسترسی به مدل Claude Fable 5 بار دیگر برقرار خواهد شد.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت در اطلاعیهای در شبکه اجتماعی X گفت که روند فعالسازی مجدد این مدل از روز چهارشنبه برای کاربران سراسر جهان در پلتفرمهای Claude آغاز میشود و دسترسی از طریق Amazon Web Services (AWS)، گوگل کلود و Microsoft Foundry نیز در آینده نزدیک از سر گرفته خواهد شد، هرچند هنوز جدول زمانی مشخصی برای آن ارائه نشده است. همچنین این شرکت شامگاه سهشنبه با انتشار یک یادداشت فنی، جزئیات روند رخدادهای اخیر، اصلاحات انجامشده در سازوکارهای ایمنی، فرایندهای جدیدی که برای صنعت هوش مصنوعی در دست توسعه دارد، شیوههای تازه همکاری با نهادهای دولتی و برنامه آزمایش مدلهای آینده پیش از انتشار عمومی را تشریح کرد.
شرکت آنتروپیک در بیانیه خود اعلام کرد:
«به ما اطلاع داده شده است که وزارت بازرگانی ایالات متحده محدودیتهای صادراتی اعمالشده بر مدل Claude Fable 5 و Mythos 5 را لغو کرده است. روند بازگرداندن دسترسی از فردا آغاز خواهد شد و بهزودی اطلاعات بیشتری منتشر میکنیم. از صبوری کاربران و تمامی افرادی که در بازاستقرار این مدلها همکاری کردند، سپاسگزاریم.»
01
از 03نگرانی دوت آمریکا
شرکت آنتروپیک اوایل ژوئن، در پی ضربالاجل دولت ترامپ، مدل Fable 5 را که نسخه مصرفکننده فناوری Mythos 5 با لایههای ایمنی بیشتر محسوب میشود، از دسترس خارج کرده بود. نگرانی دولت آمریکا درباره امکان جیلبریک یا دور زدن سازوکارهای ایمنی این مدلها، باعث صدور دستور کنترل صادرات شد؛ دستوری که استفاده از Mythos 5 و Fable 5 را برای تمامی اتباع خارجی، از جمله کارکنان غیرآمریکایی شرکتهای مشتری و حتی بخش قابل توجهی از کارکنان خود آنتروپیک، ممنوع میکرد.
مرتبط: اپلیکیشن Claude Science آنتروپیک مخصوص حوزه پژوهش معرفی شد
آنتروپیک اعلام کرده است که برای مقابله با این آسیبپذیری، که پیشتر توسط پژوهشگران آمازون شناسایی شده بود و نقش مهمی در اعمال محدودیتهای صادراتی داشت، یک طبقهبند ایمنی جدید آموزش داده است که این الگوی سوءاستفاده را شناسایی و مسدود میکند. به گفته این شرکت، در صورتی که درخواستی برای Fable 5 توسط این سامانه رد شود، کاربر از این موضوع مطلع خواهد شد و درخواست به طور خودکار به مدل Opus 4.8 ارجاع داده میشود. همچنین این شرکت مدعی است که این سامانه جدید، روش جیلبریک توصیفشده در گزارش آمازون را در بیش از ۹۹ درصد موارد مسدود میکند.
این شرکت در پایان تاکید کرد که احتمال ساخت مدلی که به طور کامل در برابر جیلبریک مقاوم باشد، بسیار اندک است. به گفته آنتروپیک، کشف برخی روشهای دور زدن محدودیتهای ایمنی در آینده اجتنابناپذیر خواهد بود و این موارد از آسیبپذیریهای جزئی تا نمونههای جدیتر متغیر خواهند بود. با وجود این، تا زمان انتشار این بیانیه، هیچ جیلبریک فراگیری برای Fable 5 شناسایی نشده است و پژوهشگران امنیت همچنان در حال انجام آزمونهای نفوذ و ارزیابی این مدل هستند.
02
از 03مجوز بازگشت Mythos 5
دولت دونالد ترامپ مجوز بازگشت Mythos 5 را صادر کرد، اما دسترسی به این مدل فعلا تنها برای فهرستی از سازمانهای از پیش تاییدشده امکانپذیر است. کارکنان غیرآمریکایی این سازمانها و کارکنان خارجی آنتروپیک نیز بار دیگر به این مدل دسترسی پیدا کردهاند. این تصمیم مدت کوتاهی پس از معرفی GPT-5.6 توسط OpenAI اتخاذ شد؛ مدلی که آن نیز در مرحله نخست برای مجموعهای از سازمانهای منتخب و نهادهای دولتی عرضه شد. آنتروپیک روز سهشنبه اعلام کرد که به همکاری با دولت آمریکا ادامه خواهد داد تا دسترسی به Mythos 5 را به طیف گستردهتری از شرکای داخلی و بینالمللی گسترش دهد. این شرکت در یادداشت رسمی خود، بخش مفصلی را نیز به راهبرد جدید همکاری با دولت ترامپ اختصاص داده است؛ اقدامی که در پی ماهها اختلافات حقوقی، حواشی رسانهای و اقدامات دولت علیه این شرکت صورت میگیرد.
برای مطالعه بیشتر: مدل جدید Claude Sonnet 5 در کدنویسی رقیب ارزانتر و قویتر ChatGPT شد
بر اساس این برنامه، آنتروپیک قصد دارد پیش از انتشار عمومی مدلهای جدید نظیر Fable 5، بهویژه مدلهایی با قابلیتهای مرتبط با امنیت ملی، امکان دسترسی و ارزیابی آنها را در اختیار نهادهای دولتی قرار دهد تا این نهادها بتوانند به صورت مستقل عملکرد، تواناییها و سازوکارهای حفاظتی مدلها را بررسی کنند. متخصصان فنی آنتروپیک نیز در طول این دورههای ارزیابی در کنار دولت حضور خواهند داشت. همچنین این شرکت متعهد شده است در صورت شناسایی جیلبریکهای مهم یا الگوهای جدید سوءاستفاده، اطلاعات مربوطه را به سرعت با دولت به اشتراک بگذارد.
علاوه بر این، آنتروپیک بیان کرده است که با همکاری دولت آمریکا و سایر آزمایشگاههای پیشروی هوش مصنوعی، استانداردی مشترک و داوطلبانه برای ارزیابی امنیت مدلهای مرزی تدوین خواهد کرد. همچنین تیمهای اختصاصی برای همکاری روی اولویتهای مشترک دولت تشکیل میدهد، منابع پردازشی قابل توجهی را به تحقیقات و آزمایشهای دولتی اختصاص خواهد داد و تخصص خود را در حوزه ارزیابی امنیتی و آزمونهای نفوذ مدلهای هوش مصنوعی در اختیار نهادهای مسئول قرار میدهد.
03
از 03پایش دائمی مدل Fable 5
دستور اولیه کنترل صادرات که از سوی دولت ترامپ صادر شد، در مقطع حساسی برای آنتروپیک به اجرا درآمد، چرا که این شرکت در حال آمادهسازی برای عرضه اولیه سهام (IPO) بود و همزمان طی ماههای گذشته بر سر طبقهبندی ریسک زنجیره تامین با دولت آمریکا اختلافات گستردهای داشت. آنتروپیک در ادامه تاکید کرد که در حال حاضر هیچ استاندارد مورد توافقی در صنعت هوش مصنوعی برای سنجش شدت جیلبریکها وجود ندارد و با عرضه مدلهای قدرتمندتر، این چالش در ماههای آینده پیچیدهتر خواهد شد. از همین رو، این شرکت با همکاری آمازون، مایکروسافت، گوگل و سایر اعضای پروژه Glasswing در حال تدوین چارچوبی مشترک برای ارزیابی جیلبریکها است. این چارچوب چهار معیار اصلی را در نظر میگیرد:
- میزان افزایش توانایی مهاجم
- گستردگی این افزایش توانایی
- سهولت تبدیل آن به ابزار سوءاستفاده
- امکان تکرار آن توسط سایر افراد
خبر پیشنهادی: دولت آمریکا، متا را برای ارزیابی امنیتی هوش مصنوعی تحت فشار گذاشت
همچنین آنتروپیک از تشکیل تیمی برای پایش ۲۴ ساعته کانالهای گزارش جیلبریک خبر داد و گفت که بهزودی برنامهای مبتنی بر HackerOne راهاندازی خواهد کرد تا پژوهشگران امنیت بتوانند آسیبپذیریهای احتمالی مدل Fable 5 را گزارش کنند. این شرکت در پایان تاکید کرد که احتمال ساخت مدلی که به طور کامل در برابر جیلبریک مقاوم باشد، بسیار اندک است. به گفته آنتروپیک، کشف برخی روشهای دور زدن محدودیتهای ایمنی در آینده اجتنابناپذیر خواهد بود و این موارد از آسیبپذیریهای جزئی تا نمونههای جدیتر متغیر هستند. با وجود این، تا زمان انتشار این بیانیه، هیچ جیلبریک فراگیری برای Fable 5 شناسایی نشده است و پژوهشگران امنیت همچنان در حال انجام آزمونهای نفوذ و ارزیابی این مدل هستند.
