مدل هوش مصنوعی امنیتی Altar با قابلیت اجرا در شبکه‌های آفلاین معرفی شد

شرکت آیکیدو مدل هوش مصنوعی امنیتی Altar را برای شناسایی آسیب‌پذیری‌ها بدون خروج اطلاعات حساس از زیرساخت سازمان‌ها با قابلیت اجرا در شبکه‌های آفلاین معرفی کرد.

به گزارش سرویس هوش مصنوعی تک‌ناک، این مدل با وزن‌های باز بر پایه GLM-5.3 توسعه یافته است. آیکیدو حجم آن را از حدود ۱٫۵۱ ترابایت به ۳۲۸ گیگابایت کاهش داده است. طبق ارزیابی‌های داخلی شرکت، این کاهش حجم با حفظ بخش عمده توانایی شناسایی آسیب‌پذیری‌های مدل اصلی همراه بوده است.

مدل امنیتی Altar قدرت پردازشی هوش مصنوعی دستگاه تست نفوذ خودکار Aikido Machine را تأمین می‌کند. این دستگاه تمام فرایندهای خود را در زیرساخت مشتری اجرا می‌کند و در محیط‌های کاملا جدا از اینترنت نیز قابل استفاده است. سازمان‌ها با این محصول می‌توانند آسیب‌پذیری‌ها را بدون ارسال کد و اطلاعات داخلی به سرویس‌های بیرونی بررسی کنند.

آیکیدو هدف این پروژه را فراهم‌ کردن امکان استفاده از هوش مصنوعی امنیتی پیشرفته در محیط‌های تحت کنترل سازمان‌ها اعلام کرده است. بانک‌ها، بیمارستان‌ها و مجموعه‌های صنعتی با محدودیت‌های نگهداری و پردازش داده، از مخاطبان این فناوری هستند.

بیشتر بخوانید: انویدیا چت‌بات هوش مصنوعی را برای بهینه‌سازی بازی‌های رایانه‌ای ثبت اختراع کرد

اجرای هوش مصنوعی امنیتی بدون خروج اطلاعات

نمودار کاهش حجم مدل Altar به ۳۲۸ گیگابایت و حفظ شناسایی ۲۳ آسیب‌پذیری از ۲۵ مورد شناسایی‌شده توسط مدل کامل GLM-5.3 — مقایسه حجم و پوشش آسیب‌پذیری‌ها در ارزیابی داخلی آیکیدو نشان می‌دهد مدل امنیتی Altar با حجم ۳۲۸ گیگابایت، ۲۳ مورد از ۳۲ آسیب‌پذیری را شناسایی کرده است. نسخه کامل GLM-5.3 با حجم ۱٫۵۱ ترابایت، ۲۵ مورد را شناسایی کرده است. مدل Altar با ۷۸٫۲ درصد حجم کمتر، ۹۲ درصد پوشش مدل کامل را حفظ کرده است.

استفاده از مدل‌های بسته می‌تواند مستلزم ارسال کد منبع، مستندات معماری و اطلاعات آسیب‌پذیری‌های برطرف‌نشده به زیرساخت ارائه‌دهنده باشد. برخی سازمان‌ها به‌ دلیل مقررات داخلی یا الزامات محل نگهداری داده، اجازه چنین کاری را ندارند. محیط‌های صنعتی بدون اتصال به اینترنت نیز نمی‌توانند به این سرویس‌ها متکی باشند.

مدل‌های با وزن‌های باز امکان استقرار داخلی را فراهم می‌کنند، اما اجرای نمونه‌های قدرتمند به منابع سخت‌افزاری زیادی نیاز دارد. آیکیدو برای کاهش این مانع، دو روش کوانتیزه‌سازی و هرس متخصص‌ها را روی مدل پایه اعمال کرده است.

مدل‌های دارای معماری «ترکیب متخصص‌ها» از شبکه‌های عصبی تخصصی متعددی تشکیل می‌شوند. هنگام پردازش هر توکن، فقط چند متخصص فعالیت می‌کنند. با وجود این‌، وزن‌های تمام متخصص‌ها باید در دسترس باشند و فضای قابل‌ توجهی اشغال می‌کنند.

اجرای عامل‌های هوش مصنوعی فشار بیشتری به حافظه وارد می‌کند. هر عامل، سابقه مشاهدات و اقدامات خود را در طول بررسی نگه می‌دارد. این اطلاعات در کنار مدل، حافظه GPU را مصرف می‌کنند. اجرای هم‌زمان چند بررسی، فضای بیشتری می‌خواهد.

کاهش حجم مدل، بخشی از ظرفیت حافظه را برای این سوابق آزاد می‌کند. آیکیدو تلاش کرده است قابلیت‌های مورد نیاز بررسی امنیتی را هنگام کوچک‌سازی حفظ کند.

کاهش ۷۸ درصدی حجم مدل امنیتی Altar

نقشه حرارتی مقایسه نرخ شناسایی انواع آسیب‌پذیری در مدل Altar و دیگر مدل‌های هوش مصنوعی طی سه اجرای آزمایشی — نقشه حرارتی عملکرد مدل‌های هوش مصنوعی در شناسایی ۳۲ آسیب‌پذیری طی سه اجرای آزمایشی در بنچمارک داخلی آیکیدو. اعداد صفر، ۳۳، ۶۷ و ۱۰۰ به‌ترتیب نشان‌دهنده شناسایی آسیب‌پذیری در هیچ‌کدام، یک، دو و هر سه اجرا هستند. رنگ تیره‌تر، شناسایی مداوم‌تر آسیب‌پذیری را نشان می‌دهد.

نسخه کامل GLM-5.3 با قالب BF16 حدود ۱۵۰۶٫۷ گیگابایت حجم دارد. کوانتیزه‌سازی با روش AWQ INT4 این مقدار را به ۴۸۸٫۲ گیگابایت رسانده است. هرس متخصص‌ها نیز حجم نهایی Altar را به ۳۲۸ گیگابایت کاهش داده است.

کوانتیزه‌سازی، وزن‌های مدل را با بیت‌های کمتری ذخیره می‌کند. در نسخه مورد استفاده آیکیدو، بیشتر وزن‌های متخصص‌ها به‌جای ۱۶ بیت با چهار بیت نگهداری می‌شوند. مقادیر میانی پردازش همچنان ۱۶ بیتی هستند و برخی وزن‌ها نیز دقت بالاتری دارند.

هرس، متخصص‌های منتخب را از مدل حذف می‌کند. مدل امنیتی Altar در هر لایه مربوط، ۱۶۸ متخصص از مجموع ۲۵۶ متخصص اولیه را حفظ کرده است. بنابراین، ۸۸ متخصص، معادل ۳۴٫۴ درصد حذف شده‌اند. مسیریاب همچنان برای هر توکن هشت متخصص انتخاب می‌کند.

آیکیدو برای انتخاب متخصص‌ها از روش REAP شرکت Cerebras استفاده کرده است. این روش، سهم متخصص‌ها را بر اساس وزن‌دهی مسیریاب و اندازه خروجی آنها برآورد می‌کند. تعداد دفعات فعالیت یک متخصص، تنها معیار انتخاب نبوده است.

داده‌های کالیبراسیون از سوابق تست نفوذ در بنچمارک‌های داخلی تهیه شده‌اند. آیکیدو بیان کرده که هیچ داده مشتری در این فرایند استفاده نشده است. متن‌های چندزبانه نیز برای حفظ توانایی درک مستندات، رابط کاربری و قواعد کسب‌وکار به مجموعه افزوده شده‌اند.

حجم نهایی نسبت به مدل کامل ۷۸٫۲ درصد کمتر است. کاهش حجم نسبت به نسخه کوانتیزه‌شده نیز به ۳۲٫۸ درصد می‌رسد.

بیشتر بخوانید: حالت صوتی ChatGPT به اپ‌ها متصل می‌شود؛ تاییدها همچنان دست شماست

نتایج شناسایی آسیب‌پذیری و برنامه توسعه

آیکیدو مدل امنیتی Altar را با یک بنچمارک داخلی شامل ۳۲ آسیب‌پذیری شناخته‌شده در ۳۰ مخزن کد ارزیابی کرده است. هر مورد سه بار اجرا شده است. میانگین نرخ بازیابی Altar در هر اجرا به ۶۰٫۴ درصد رسید. این مدل در مجموع، ۲۳ آسیب‌پذیری را دست‌کم یک بار شناسایی کرد.

نسخه کوانتیزه‌شده GLM-5.3 میانگین بازیابی ۶۱٫۵ درصد داشت و همان ۲۳ آسیب‌پذیری را یافت. نسخه کامل نیز میانگین ۶۵٫۶ درصد و پوشش ۲۵ آسیب‌پذیری را ثبت کرد. بنابراین، Altar حدود ۹۲ درصد پوشش آسیب‌پذیری‌های مدل کامل را حفظ کرده است.

این آزمون فقط بازشناسایی هدفمند آسیب‌پذیری‌های شناخته‌شده را می‌سنجد. کشف بدون اطلاع قبلی در کل پایگاه کد، اجرای بهره‌برداری برای تأیید یافته‌ها و ارزیابی پیشنهاد اصلاح، در محدوده آن قرار ندارند.

به گفته آیکیدو، مدل پس از استقرار در دستگاه‌های این شرکت، یک آسیب‌پذیری معتبر با شدت بحرانی را در تست نفوذ محیط عملیاتی مشتری شناسایی کرده است.

وزن‌های Altar منتشر شده‌اند و اجرای آن با چهار شتاب‌دهنده H200 و نسخه جدید vLLM امکان‌پذیر است. آیکیدو بررسی قالب EXL3، تنظیم دقیق امنیتی، بهبود استفاده از ابزارها و تقویت استدلال طولانی را در برنامه توسعه قرار داده است.