مایکروسافت امروز از انتشار ابزار محافظتی سیستم‌های هوشی مصنوعی PyRIT (مجموعه ابزار شناسایی ریسک پایتون) خبر داد.
به‌گزارش تک‌ناک، مایکروسافت ابزار حفاظتی هوش مصنوعی PyRIT را معرفی کرد. این ابزار فریم‌ورک خودکار منبع‌بازی است که به تیم‌های امنیتی کمک میکند تا خطرهای موجود در سیستم‌های هوش مصنوعی مولد را شناسایی کنند.
این حرکت بر تعهد عمیق مایکروسافت به توسعه مسئولانه هوش مصنوعی و ساخت ابزارهای امن برای چشم‌انداز رو به گسترش هوش مصنوعی مولد تأکید میکند.
فرایند شبیه‌سازی حملات به‌منظور آزمایش دفاع برای هوش مصنوعی تولیدکننده بسیار مهم است. با‌این‌حال، این سیستم‌ها برخلاف نرم‌افزارهای سنتی پیچیده هستند و ضعف‌های متعددی دارند. تجربه گسترده مایکروسافت در آزمایش نفوذ قرمز هوش مصنوعی به ایجاد PyRIT منجر شد که مشکلات منحصر‌به فرد هوش مصنوعی مولد را حل میکند.
ویژگی‌ها و مزایای مهم PyRIT عبارت‌اند از:
- انطباق‌پذیری: با انواع مختلف مدل‌های هوش مصنوعی مولد کار میکند و می‌تواند برای پشتیبانی از انواع ورودی جدید (مانند تصاویر و فیلم) گسترش داده شود.
- مجموعه داده‌های متمرکز بر ریسک: امکان آزمایش برای هر دو موضوع امنیتی و سوگیری یا بی‌دقتی بالقوه را فراهم میکند.
- موتور نمره‌دهی انعطاف‌پذیر: با استفاده از یادگیری ماشین یا LLMs مستقیم برای خودآزمایی، امکان نمره‌دهی خروجی‌های هوش مصنوعی را فراهم میکند.
- استراتژی‌های حمله چند‌مرحله‌ای: حملات واقع‌بینانه‌تر و پایدارتر را برای آزمایش عمیق‌تر شبیه‌سازی میکند.
- قابلیت حافظه: تسهیل تجزیه‌و‌تحلیل و اجازه تعاملات طولانی‌تر و پیچیده‌تر را می‌دهد.
انتشار PyRIT در صنعت امنیت هوش مصنوعی موج مثبتی ایجاد خواهد کرد. مایکروسافت سازمان‌ها را در سراسر بخش‌ها تشویق میکند تا از PyRIT در تلاش‌های امنیتی هوش مصنوعی مولد خود استفاده کنند. همچنین، این شرکت تأکید میکند که تلاش هماهنگ برای ساخت دفاع‌های محکم در‌برابر خطرهای نوظهور هوش مصنوعی ضروری است.
شایان ذکر است که PyRIT جایگزینی برای تیم انسانی سیستم‌های هوش مصنوعی مولد نیست. در‌عوض، این ابزار تخصص موجود در حوزه تیم هوش مصنوعی را افزایش می‌دهد و انجام وظایف خسته‌کننده را برای آنان خودکار میکند.
