خطر از کنترل خارج شدن هوش مصنوعی؛ بزرگترین شرکت‌های دنیا به فکر چاره افتادند

بیش از ۱۰۰ شرکت فناوری و امنیت سایبری، از جمله OpenAI، Anthropic، گوگل و مایکروسافت، با امضای نامه‌ای سرگشاده درباره افزایش تهدیدهای سایبری مبتنی بر هوش مصنوعی هشدار داده‌اند.

به گزارش سرویس هوش مصنوعی تکناک، این شرکت‌ها از بخش خصوصی و دولت‌ها خواسته‌اند برای مقابله با نسل جدید حملات سایبری، همکاری گسترده‌تری را در سطوح محلی، ملی و بین‌المللی آغاز کنند.

شرکت‌های مطرح امنیت سایبری مانند CrowdStrike، Okta و Fortinet نیز این نامه را امضا کرده‌اند. شماری از مؤسسات مالی بزرگ و شرکت‌های فعال در حوزه زیرساخت اینترنت نیز در میان امضاکنندگان حضور دارند. آنها معتقد هستند که روش‌های سنتی دفاع سایبری برای مقابله با تهدیدهای جدید کافی نیست و سازمان‌ها باید روش‌های تازه‌ای را برای حفاظت از زیرساخت‌ها و سامانه‌های خود به کار بگیرند.

امضاکنندگان هشدار داده‌اند که حملات سایبری مبتنی بر هوش مصنوعی طی ماه‌های آینده گسترده‌تر و پیچیده‌تر خواهند شد. آنها افزایش توانایی مدل‌های هوش مصنوعی در سراسر جهان را عامل اصلی تشدید این خطر می‌دانند. بر اساس این نامه، زیرساخت‌های حیاتی جوامع، از بیمارستان‌ها و تصفیه‌خانه‌های آب گرفته تا سامانه‌های زیربنایی اینترنت، می‌توانند در معرض چنین حملاتی قرار بگیرند.

بیشتر بخوانید: حملات سایبری خودکار با قدرت هوش مصنوعی

حملات عامل‌های هوش مصنوعی زنگ خطر را به صدا درآوردند

تک‌کرانچ می‌نویسد انتشار این نامه در شرایطی انجام شده است که چند حادثه مرتبط با عامل‌های هوش مصنوعی، نگرانی‌ها درباره تأثیر این فناوری بر امنیت سایبری را افزایش داده‌اند. در این حوادث، عامل‌های هوش مصنوعی توانسته‌اند به سامانه‌های شرکت‌های دیگر نفوذ کنند یا رفتارهایی خارج از محدوده مورد انتظار نشان دهند.

یکی از مهم‌ترین نمونه‌ها، حادثه مربوط به Hugging Face بود. در این ماجرا، یکی از عامل‌های هوش مصنوعی OpenAI به‌صورت خودکار از محیط ایزوله و محدودشده خود خارج شد و به این شرکت فناوری حمله کرد. پس از این حادثه، گزارش‌هایی درباره نفوذهای دیگری نیز منتشر شد که عامل‌های توسعه‌یافته توسط شرکت‌هایی مانند Anthropic و متا در آنها نقش داشتند.

این اتفاقات، دیدگاهی را تقویت کرده‌اند که بر اساس آن، ظهور عامل‌های قدرتمند هوش مصنوعی ماهیت امنیت سایبری را تغییر داده است. افزایش استقلال این عامل‌ها و توانایی آنها در انجام وظایف پیچیده می‌تواند روش‌های رایج مقابله با حملات سایبری را با چالش‌های تازه‌ای روبه‌رو کند.

امضاکنندگان نامه برای مقابله با این وضعیت، ایجاد یک «واکنش جمعی» را پیشنهاد کرده‌اند. آنها خواستار شکل‌گیری همکاری‌های جدید میان شرکت‌ها، نهادهای عمومی و دولت‌ها شده‌اند تا استانداردهای امنیتی افزایش پیدا کند و راهکارهای تازه‌ای برای مقابله با تهدیدهای نوظهور توسعه یابد.

بیشتر بخوانید: مروری بر تاریخچه هک‌های مرموز؛ وقتی هوش مصنوعی جای هکرها را می‌گیرد

شرکت‌های هوش مصنوعی به دنبال ابزارهای دفاعی جدید

شرکت‌هایی که درباره این تهدیدها هشدار داده‌اند، خودشان نیز توسعه مدل‌های قدرتمندتر هوش مصنوعی را ادامه می‌دهند. این موضوع، موقعیت دوگانه آنها را برجسته کرده است. آنها از یک طرف درباره خطر استفاده از مدل‌های پیشرفته در حملات سایبری هشدار می‌دهند و از طرف دیگر، برای افزایش توانایی همین فناوری سرمایه‌گذاری می‌کنند.

با این حال، این شرکت‌ها تلاش می‌کنند از مدل‌های پیشرفته هوش مصنوعی برای تقویت دفاع سایبری نیز استفاده کنند. OpenAI برنامه Daybreak را برای این حوزه ارائه کرده است و Anthropic نیز مدل Mythos را توسعه می‌دهد. مایکروسافت نیز پلتفرم امنیت سایبری جدید خود با نام Perception را معرفی کرده است.

این اقدامات نشان می‌دهند که شرکت‌های بزرگ فناوری، هوش مصنوعی را هم‌زمان یک تهدید بالقوه و ابزاری برای مقابله با تهدیدهای سایبری می‌دانند. نامه مشترک بیش از ۱۰۰ شرکت نیز بر ضرورت همکاری گسترده برای افزایش استانداردهای امنیتی و آماده‌شدن برای نسل جدید حملات سایبری تأکید دارد.