فهرست مطالب
اسناد تازه نشان می‌دهند پنتاگون در حال بررسی توسعه هوش مصنوعی خودمختار برای شناسایی و خنثی‌سازی تهدیدها و نفوذ به شبکه‌های دشمن است.
به گزارش سرویس هوش مصنوعی تکناک، اسنادی که وب‌سایت اینترسپت بررسی کرده است، نشان می‌دهند پنتاگون قصد دارد چارچوبی مبتنی بر هوش مصنوعی عامل‌محور با نام ECHOTRIBBLE توسعه دهد؛ سامانه‌ای که برای «پیمایش زیرساخت‌ها، شناسایی تهدیدها و خنثی‌سازی آنها» طراحی شده است.
بیشتر بخوانید: هشدار امنیتی مایکروسافت درباره تهدیدهای پنهان عامل‌های هوش مصنوعی
جزئیات پروژه هوش مصنوعی خودمختار پنتاگون
بر اساس این اسناد که برای شرکت‌های تامین‌کننده و با مشارکت آنها منتشر شده‌اند، فرماندهی مرکزی نیروی زمینی آمریکا برای تسلیحاتی کردن هوش مصنوعی به دنبال همکاری با بخش خصوصی است. با وجود این، هنوز روشن نیست که این پروژه تاکنون به توسعه ابزارهای هک مبتنی بر هوش مصنوعی منجر شده باشد.
اسناد عمومی هوش مصنوعی ECHOTRIBBLE در وب‌سایت مرکز نوآوری همجوشی سایبری، سازمانی غیرانتفاعی در حوزه دفاعی، نشان می‌دهند که این طرح برخلاف تصور، یک پروژه فوق‌محرمانه نیست. طبق اطلاعات منتشرشده از سوی این مرکز، اوایل ماه جاری میلادی رویدادی کاملا مجازی برای ارزیابی طرح «چارچوب ابزار فرماندهی و کنترل عامل‌محور» برگزار شد. در جریان این رویداد ۶۵ مقاله تخصصی تهیه شد که قرار بود پنج مورد از آنها به ارائه‌هایی تبدیل شوند و در اختیار تیم ارزیابی قرار بگیرند.
حتما بخوانید: نفوذ هکر چینی به وب‌سایت بیش از ۱۰۰ شرکت با کمک هوش مصنوعی
پیت هگست، وزیر دفاع و جنگ آمریکا پیش‌تر در ماه ژانویه به‌صراحت از چنین رویکردی حمایت کرده بود. او در بیانیه‌ای مطبوعاتی از سوی پنتاگون گفت: «ما امکان آزمایش و نوآوری را گسترش می‌دهیم، موانع بوروکراتیک را حذف می‌کنیم، سرمایه‌گذاری‌های خود را هدفمند می‌سازیم و رویکرد اجرایی لازم را به نمایش می‌گذاریم تا اطمینان حاصل کنیم در حوزه هوش مصنوعی نظامی پیشتاز هستیم.» هگست تصریح کرد: «ما در تمام حوزه‌های عملیاتی به نیرویی نظامی تبدیل خواهیم شد که هوش مصنوعی را در اولویت قرار می‌دهد.»
نگرانی‌ها درباره سلاح‌های مبتنی بر AI
سم بیدل از اینترسپت، چشم‌انداز احتمالی هوش مصنوعی خودمختار ECHOTRIBBLE را که همچنان در مراحل ابتدایی توسعه قرار دارد، به نوعی کرم رایانه‌ای تشبیه می‌کند؛ برنامه‌ای که می‌تواند مخفیانه در شبکه‌ای خارجی حرکت کند و با جابه‌جایی میان دستگاه‌های مختلف، هدف موردنظر ارتش را شناسایی کند. این سامانه قرار است اهداف مستقر در فضای ابری و اهداف موجود در سیستم‌های «ایزوله از شبکه» را تحت پوشش قرار دهد؛ سیستم‌هایی که هیچ اتصال شبکه‌ای ندارند.
برای مطالعه بیشتر: آمریکا استفاده از DeepSeek را در آژانس‌های دولتی ممنوع کرد
عامل‌های هوش مصنوعی امروزی نیز قادر هستند در قالب گروه‌هایی هماهنگ فعالیت کنند و اقداماتی انجام دهند که در عمل به هک شباهت دارد. خوشبختانه، حوادثی مانند مورد Hugging Face تاکنون خسارت گسترده‌ای ایجاد نکرده‌اند.
با وجود این، گزارش‌های امنیتی هوش مصنوعی در تابستان گذشته نشان دادند که عامل‌های دارای قابلیت هک، رفتاری قابل پیش‌بینی ندارند و انگیزه یا منطق عملکرد آنها همیشه برای ناظران انسانی روشن نیست. «عامل‌های سرکش» بیش از آنکه به ربات‌های ترمیناتور شباهت داشته باشند که ناگهان با میل به کشتن انسان‌ها از خواب بیدار می‌شوند، مانند سامانه‌های پیچیده‌ای هستند که به‌شکلی غیرقابل پیش‌بینی دچار اختلال می‌شوند. اما این مسئله نیز به‌خودی‌خود نگران‌کننده است. دیوید کروگر، استاد یادگیری ماشین در دانشگاه مونترال در گفت‌وگو با اینترسپت هشدار داد: «با توجه به سازوکارهای شناخته‌شده شکست در الگوی کنونی هوش مصنوعی، توسعه سامانه‌های خودمختاری که مأموریت دارند تهدیدها را خنثی کنند، فوق‌العاده خطرناک است.»
