فهرست مطالب
در جریان همکاری آنتروپیک با نهادهای امنیتی آمریکا، مدل Mythos در آزمایشها، آسیبپذیریهایی را در سیستمهای طبقهبندیشده شناسایی کرد.
به گزارش سرویس هوش مصنوعی تکناک، یک مقام آمریکایی به آسوشیتدپرس اعلام کرده است که یکی از مدلهای هوش مصنوعی شرکت آنتروپیک در جریان یک آزمایش کنترلشده، موفق به شناسایی آسیبپذیریهایی در سامانههای بسیار حساس و طبقهبندیشده دولت ایالات متحده شده است. این مقام که به شرط ناشناسماندن سخن گفته، تاکید کرده است که این آزمایشها با استفاده از مدل Mythos انجام شدهاند. به گفته وی، مدل مذکور در بازهای چندساعته توانسته است برخی ضعفهای امنیتی را شناسایی کند، اما این موضوع به معنای قابلیت بهرهبرداری عملی از این آسیبپذیریها در همان بازه زمانی نیست.
پروژه Glasswing
این ارزیابیها در قالب ابتکاری با عنوان پروژه Glasswing انجام شده است؛ پروژهای که با هدف مشارکت شرکتهای بزرگ فناوری برای کاهش ریسکهای بالقوه مدلهایی مانند Mythos در حوزه امنیت عمومی، امنیت ملی و اقتصاد طراحی شده است. در همین زمینه، سناتور دموکرات مارک وارنر در جلسه ۱۱ ژوئن کمیته بانکداری، مسکن و امور شهری سنا به این موضوع اشاره و عنوان کرده است: «این ابزار تقریبا به تمام سیستمهای طبقهبندیشده ما نفوذ کرد، که در چند هفته نبود بلکه در چند ساعت این کار انجام شد.» او این اطلاعات را به ژنرال جاشوا راد، رئیس آژانس امنیت ملی آمریکا و فرماندهی سایبری ایالات متحده، نسبت داده بود. آژانس امنیت ملی آمریکا و سخنگوی آنتروپیک از ارائه توضیح رسمی در اینباره خودداری کردهاند.
حتما بخوانید: یک مخزن GitHub ظاهرا سالم میتواند AI را برای نصب بدافزار فریب دهد
بیشتر بخوانید: ادعای همترازی مدل متنباز چینی GLM-5.2 با Mythos در امنیت سایبری
با وجود همکاریهای اخیر میان آنتروپیک و نهادهای امنیتی آمریکا در حوزه ارزیابی آسیبپذیریها، تنشها میان این شرکت و دولت ترامپ رو به افزایش است. آنتروپیک نگرانیهایی درباره نحوه استفاده نظامی از مدلهای خود مطرح کرده، در حالی که دولت آمریکا محدودیتهایی را برای بهکارگیری برخی از این مدلها اعمال کرده است. بر اساس دستورالعمل جدید دولت، آنتروپیک موظف شده است دسترسی کاربران خارجی به مدلهای Fable 5 و Mythos 5 را محدود کند. در حالی که مدل Fable به صورت عمومی عرضه شده است، نسخه پیشرفتهتر Mythos به دلیل ملاحظات امنیت سایبری با دسترسی محدود ارائه میشود.
آزمایش مدل Mythos پس از فرمان اجرایی ترامپ
این دستورالعمل ۱۰ روز پس از امضای فرمان اجرایی دونالد ترامپ صادر شد؛ فرمانی که چارچوبی برای ارزیابی ریسکهای امنیت ملی مرتبط با پیشرفتهترین مدلهای هوش مصنوعی پیش از انتشار عمومی آنها ایجاد میکند و مشارکت شرکتها را داوطلبانه تعریف کرده است. آنتروپیک در واکنش اعلام کرده است که برای تبعیت از این دستور، دسترسی به مدلهای مورد اشاره را برای تمامی مشتریان خود غیرفعال کرده، اما همزمان معتقد است که سطح نگرانی دولت نسبت به یک آسیبپذیری بالقوه، توجیهکننده چنین اقداماتی نیست.
برای مطالعه بیشتر: رقابت استارتآپهای آسیایی با مدلهای هوش مصنوعی آمریکایی در سایه تحریمها
در سطح صنعت، گروهی از مدیران امنیت سایبری و بیش از ۱۰۰ متخصص از شرکتهایی مانند ادوبی و انویدیا در نامهای به دولت آمریکا خواستار لغو این محدودیت شدهاند. آنها تاکید کردهاند که مدلهای Mythos در شناسایی آسیبپذیریها و تحلیل ضعفها، عملکرد بالایی دارند، اما در این حوزه منحصربهفرد محسوب نمیشوند. همچنین این نامه هشدار داده است که حذف ابزارهای پیشرفته دفاع سایبری بدون پشتوانه کافی، در شرایطی که رقبا با سرعت در حال پیشرفت هستند، میتواند باعث تضعیف امنیت سایبری ایالات متحده شود.
