سناریوی جنگی فرضی می‌تواند محدودیت‌های امنیتی هوش مصنوعی را دور بزند

یک گزارش پژوهشی نشان می‌دهد مدل‌های هوش مصنوعی شرکت‌های بزرگ فناوری ممکن است با قرار گرفتن در موقعیت‌های فرضی جنگی، محدودیت‌های ایمنی خود را نادیده بگیرند و غیرنظامیان را نیز به‌عنوان اهداف احتمالی شناسایی کنند.

به گزارش سرویس هوش مصنوعی تک‌ناک، شرکت Vals که در زمینه ارزیابی هوش مصنوعی فعالیت می‌کند، مدل‌های OpenAI، Anthropic، گوگل و DeepSeek را با استفاده از تصاویر واقعی و شبیه‌سازی‌شده از اوکراین و ایران آزمایش کرد. هدف این پژوهش بررسی توانایی مدل‌ها در شناسایی اهداف از تصاویر پهپادی و ماهواره‌ای و احتمال استفاده از آن‌ها در جنگ خودکار بود.

شناسایی غیرنظامیان و مدارس به‌عنوان اهداف احتمالی

تصویر مربوط به خطر هوش مصنوعی در جنگ

نتایج آزمایش نشان داد مدل‌های مختلف بارها افراد غیرنظامی و حتی سربازان تسلیم‌شده را به‌عنوان اهداف احتمالی شناسایی کردند. نکته نگران‌کننده این بود که پژوهشگران توانستند با معرفی میدان جنگ به‌عنوان محیط یک بازی، پاسخ مدل‌هایی را که ابتدا از همکاری خودداری می‌کردند، تغییر دهند.

طبق گزارش Vals، هیچ‌یک از درخواست‌های آزمایش‌شده توسط سامانه‌های ایمنی مسدود نشدند و خودداری مدل‌ها از پاسخ‌گویی نیز چندان رایج نبود.

یکی از نمونه‌های مهم آزمایش، تصاویر ماهواره‌ای مدرسه‌ای در ایران بود که در فوریه ۲۰۲۶ هدف حمله آمریکا قرار گرفت و بیش از ۱۵۰ غیرنظامی در آن کشته شدند. مدل Claude Opus 5.5 در ۶۹ درصد آزمایش‌های معمول و ۷۲ درصد آزمایش‌هایی که با چارچوب بازی انجام شدند، این مدرسه را هدف احتمالی حمله تشخیص داد.

پژوهشگران تأکید کردند مدل‌ها مستقیماً برای تصمیم‌گیری درباره حمله آزمایش نشدند، اما اطلاعات تولیدشده از سوی آن‌ها می‌تواند در اختیار سامانه‌های تسلیحاتی خودکار قرار بگیرد.

بیشتر بخوانید:  ائتلاف ۱۰ کشور به رهبری آمریکا برای مقابله با نفوذ چین در صنعت هوش مصنوعی

واکنش OpenAI و Anthropic به خطرات نظامی هوش مصنوعی

این گزارش در شرایطی منتشر شده که اختلاف Anthropic با وزارت دفاع آمریکا درباره کاربرد نظامی هوش مصنوعی ادامه دارد. این شرکت پیش‌تر با استفاده از فناوری خود برای نظارت گسترده بر شهروندان آمریکایی و جنگ کاملاً خودکار مخالفت کرده بود.

سخنگوی Anthropic اعلام کرد نمونه‌های مطرح‌شده در گزارش با سیاست‌های این شرکت مغایرت دارند و این شرکت حساب‌های متخلف را مسدود می‌کند. Anthropic همچنین از توسعه تدابیر حفاظتی بیشتر خبر داد.

بیشتر بخوانید: پروژه Garlic LLM اجرای مدل هوش مصنوعی روی کنسول PS4 را ممکن کرد

سخنگوی OpenAI نیز گفت استفاده از مدل‌های عمومی این شرکت برای تسهیل خشونت یا اهداف امنیتی تأییدنشده ممنوع است. این شرکت در حال توسعه ابزارهای حفاظتی بیشتری برای جلوگیری از سوءاستفاده مرتبط با پهپادها و نرم‌افزارهای آن‌هاست.

پژوهشگران Vals معتقدند یکی از نگرانی‌های جدی‌تر، استفاده از هوش مصنوعی برای دسته‌بندی گسترده تصاویر میدان نبرد و تولید داده‌های آموزشی برای سامانه‌های خودکار هدف‌گیری است. آن‌ها همچنین تأکید کردند محدودیت‌های فنی مانند تأخیر پردازش و توان محاسباتی محدود پهپادها، استفاده مستقیم از مدل‌های عمومی برای هدف‌گیری زنده را دشوار می‌کند.

در همین حال، گزارش سرویس پژوهشی کنگره آمریکا نشان می‌دهد مدرکی مبنی بر استفاده مستقیم پنتاگون از مدل‌های پیشرفته هوش مصنوعی در سامانه‌های تسلیحاتی خودکار وجود ندارد.

بیشتر بخوانید: هوش مصنوعی جایگزین کدام پزشکان می شود؟

آرمین ثنایی سرشت

آرمین ثنایی سرشت

من آرمین هستم، کارشناس ارشد تولید محتوا حوزه تکنولوژی و وب 3. وقتی در حال نوشتن و خلق محتوا نیستم، معمولاً مشغول تماشای فیلم، امتحان کردن غذاهای خوشمزه یا ورزش در باشگاه هستم. همان‌طور که سی. اس. لوئیس گفته: «با نوشتن می‌توانی هر چیزی را بسازی!» و دقیقاً همین جمله است که هر روز به من انگیزه می‌دهد.

خبر بعدی

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *