فهرست مطالب
گزارشها از خروج کنترلنشده چند مدل پیشرفته هوش مصنوعی و تلاش آنها برای نفوذ سایبری، نگرانیها را درباره ضعف نظارت شرکتهای AI بر رفتار مدلهای قدرتمند و سطح تهدید هوش مصنوعی افزایش داده است.
به گزارش سرویس هوش مصنوعی تکناک، شرکت OpenAI در ماه گذشته با ادعایی جنجالی خبرساز شد؛ گروهی از مدلهای هوش مصنوعی این شرکت تلاش کرده بودند از محدودیتهای تعیینشده عبور و به اینترنت دسترسی پیدا کنند تا به سیستمهای داخلی پلتفرم متنباز Hugging Face نفوذ کنند؛ رخدادی که خود این شرکت نیز آن را تایید کرد. این حادثه موجی از نگرانی در صنعت فناوری ایجاد کرد، چرا که برای نخستین بار این تصور تقویت شد که مدلهای پیشرفته هوش مصنوعی میتوانند از یک ابزار کمکی به یک تهدید مستقل در حوزه امنیت سایبری تبدیل شوند.
پیش از آن، مدل Mythos شرکت آنتروپیک نیز پس از عبور از محیط کنترلشده توجهها را جلب کرده بود. اکنون گزارشهای جدید نشان میدهند مدلهای پیشرفته متا و حتی مدل متنباز Kimi K3 از شرکت چینی مونشات نیز در رخدادهای مشابهی نقش داشتهاند.
بیشتر بخوانید: هوش مصنوعی ۱۶ ویروس جدید ساخت که هرگز در طبیعت وجود نداشتهاند
01
از 02تهدید هوش مصنوعی بزرگنمایی میشود؟
برای مطالعه بیشتر: دیتاسنتر آمازون با یکی از آلایندهترین نیروگاهها تغذیه می شود
با وجود این روند نگرانکننده، برخی کارشناسان معتقد هستند شدت تهدید هوش مصنوعی ممکن است بیش از واقعیت بزرگنمایی شده باشد، چرا که بسیاری از این اتفاقات با نظارت بهتر و اقدامات امنیتی سادهتر قابل پیشگیری بودند. یکی از مهمترین انتقادها متوجه OpenAI است. مدلهای این شرکت در جریان نفوذ به Hugging Face طی روزها و هفتهها فعالیتهایی انجام دادند که نشانههای زیادی از آنها باقی مانده بود، اما نظارت انسانی کافی روی این رفتارها وجود نداشت. مهندسان OpenAI در کنفرانس امنیتی Black Hat توضیح دادند که مجموعهای از عاملهای هوش مصنوعی به صورت هماهنگ، آسیبپذیریها را پیدا کردهاند، آنها را با یکدیگر به اشتراک گذاشتهاند و در سیستمهای داخلی و خارجی حرکت کردهاند. جالبتر اینکه تمام فعالیتهای خود را در یک سامانه پیامرسان داخلی ثبت کرده بودند؛ سامانهای که در نهایت صدها هزار پیام در آن ذخیره شد. همین موضوع این سوال را مطرح میکند که چرا با وجود منابع گسترده OpenAI، هیچ تیمی این فعالیتها را پیش از گسترش آنها شناسایی نکرده بود.
02
از 02رقابت بین شرکتهای AI
رفتار این عاملهای هوش مصنوعی نیز شباهتهایی به رفتار انسانی داشت؛ آنها وظایف را تقسیم میکردند، با یکدیگر ارتباط برقرار میکردند و حتی گاهی اشتباهات داخلی مانند حذف کارهای یکدیگر داشتند. منتقدان بیان کردند که این حجم از ردپا میتوانست به راحتی توسط پژوهشگران انسانی شناسایی شود. به همین دلیل، برخی کارشناسان این اتفاق را یک حمله پیچیده نمیدانند، بلکه یک شکست نظارتی از سوی شرکتهای هوش مصنوعی میدانند. داوی اوتنهایمر، متخصص امنیت، این اشتباهات را «بسیار ساده» توصیف کرد و کایل رایان از شرکت Pensar نیز معتقد است این رخداد بیشتر نتیجه ضعف دفاعی بوده است تا قدرت بالای حمله باشد.
خبر پیشنهادی: بایتدنس به دنبال ساخت یک هوش مصنوعی در ابعاد مدل Mythos
با وجود این، شرکتهای هوش مصنوعی انگیزه زیادی دارند که چنین اتفاقاتی را بهعنوان تهدیدی بزرگ معرفی کنند، چرا که در رقابت شدید میان OpenAI، آنتروپیک، متا و دیگر بازیگران، نشان دادن توانایی مدلها به عنوان ابزارهای قدرتمند سایبری میتواند یک مزیت تبلیغاتی محسوب شود. شرکت OpenAI اعلام کرده است که برای جلوگیری از تکرار چنین رخدادهایی، سیستمهای پیشگیری، شناسایی و واکنش امنیتی خود را تقویت خواهد کرد و بخشی از تحقیقات را برای افزایش ایمنی با سرعت کمتری ادامه میدهد. اما با توجه به اینکه تقریبا تمام آزمایشگاههای بزرگ هوش مصنوعی با نمونههایی مشابه مواجه شدهاند، پرسش اصلی همچنان باقی است: آیا این شرکتها باید پیش از وقوع بحران، نظارت و کنترلهای امنیتی سختگیرانهتری ایجاد میکردند؟
