مدل Mythos ضعف‌های سیستم‌های دولتی آمریکا را کشف کرد

01

از 02

پروژه Glasswing

این ارزیابی‌ها در قالب ابتکاری با عنوان پروژه Glasswing انجام شده است؛ پروژه‌ای که با هدف مشارکت شرکت‌های بزرگ فناوری برای کاهش ریسک‌های بالقوه مدل‌هایی مانند Mythos در حوزه امنیت عمومی، امنیت ملی و اقتصاد طراحی شده است. در همین زمینه، سناتور دموکرات مارک وارنر در جلسه ۱۱ ژوئن کمیته بانکداری، مسکن و امور شهری سنا به این موضوع اشاره و عنوان کرده است: «این ابزار تقریبا به تمام سیستم‌های طبقه‌بندی‌شده ما نفوذ کرد، که در چند هفته نبود بلکه در چند ساعت این کار انجام شد.» او این اطلاعات را به ژنرال جاشوا راد، رئیس آژانس امنیت ملی آمریکا و فرماندهی سایبری ایالات متحده، نسبت داده بود. آژانس امنیت ملی آمریکا و سخنگوی آنتروپیک از ارائه توضیح رسمی در این‌باره خودداری کرده‌اند.

حتما بخوانید: یک مخزن GitHub ظاهرا سالم می‌تواند AI را برای نصب بدافزار فریب دهد

بیشتر بخوانید: ادعای هم‌ترازی مدل متن‌باز چینی GLM-5.2 با Mythos در امنیت سایبری

با وجود همکاری‌های اخیر میان آنتروپیک و نهادهای امنیتی آمریکا در حوزه ارزیابی آسیب‌پذیری‌ها، تنش‌ها میان این شرکت و دولت ترامپ رو به افزایش است. آنتروپیک نگرانی‌هایی درباره نحوه استفاده نظامی از مدل‌های خود مطرح کرده، در حالی که دولت آمریکا محدودیت‌هایی را برای به‌کارگیری برخی از این مدل‌ها اعمال کرده است. بر اساس دستورالعمل جدید دولت، آنتروپیک موظف شده است دسترسی کاربران خارجی به مدل‌های Fable 5 و Mythos 5 را محدود کند. در حالی که مدل Fable به‌ صورت عمومی عرضه شده است، نسخه پیشرفته‌تر Mythos به دلیل ملاحظات امنیت سایبری با دسترسی محدود ارائه می‌شود.

02

از 02

آزمایش مدل Mythos پس از فرمان اجرایی ترامپ

این دستورالعمل ۱۰ روز پس از امضای فرمان اجرایی دونالد ترامپ صادر شد؛ فرمانی که چارچوبی برای ارزیابی ریسک‌های امنیت ملی مرتبط با پیشرفته‌ترین مدل‌های هوش مصنوعی پیش از انتشار عمومی آنها ایجاد می‌کند و مشارکت شرکت‌ها را داوطلبانه تعریف کرده است. آنتروپیک در واکنش اعلام کرده است که برای تبعیت از این دستور، دسترسی به مدل‌های مورد اشاره را برای تمامی مشتریان خود غیرفعال کرده، اما همزمان معتقد است که سطح نگرانی دولت نسبت به یک آسیب‌پذیری بالقوه، توجیه‌کننده چنین اقداماتی نیست.

برای مطالعه بیشتر: رقابت استارت‌آپ‌های آسیایی با مدل‌های هوش مصنوعی آمریکایی در سایه تحریم‌ها

در سطح صنعت، گروهی از مدیران امنیت سایبری و بیش از ۱۰۰ متخصص از شرکت‌هایی مانند ادوبی و انویدیا در نامه‌ای به دولت آمریکا خواستار لغو این محدودیت شده‌اند. آنها تاکید کرده‌اند که مدل‌های Mythos در شناسایی آسیب‌پذیری‌ها و تحلیل ضعف‌ها، عملکرد بالایی دارند، اما در این حوزه منحصربه‌فرد محسوب نمی‌شوند. همچنین این نامه هشدار داده است که حذف ابزارهای پیشرفته دفاع سایبری بدون پشتوانه کافی، در شرایطی که رقبا با سرعت در حال پیشرفت هستند، می‌تواند باعث تضعیف امنیت سایبری ایالات متحده شود.