کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد

01

از 01

ضرورت تصویب لایحه کلید خاموشی هوش مصنوعی

ارائه این لوایح تنها چند روز پس از آن انجام شد که OpenAI اعلام کرد یکی از عامل‌های هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط ایزوله خارج شده و با اجرای یک حمله سایبری، زیرساخت‌های استارتاپ Hugging Face را که بستری برای توسعه و اشتراک‌گذاری مدل‌های هوش مصنوعی است، هدف قرار داده است. این رخداد نشان می‌دهد افزایش توانمندی مدل‌های هوش مصنوعی، تهدیدهای امنیتی مورد هشدار کارشناسان را به مرحله عملی رسانده و حتی پیشرفته‌ترین شرکت‌های این حوزه نیز ممکن است در برابر سوءاستفاده از آسیب‌پذیری‌های مدل‌های خود غافلگیر شوند.

برای مطالعه بیشتر: شرکت OpenAI با قابلیت ChatGPT Health بازار سلامت را هدف گرفت

به گفته یک مقام کاخ سفید، مایکل کراتسیوس پس از انتشار گزارش OpenAI در جریان جزئیات این حادثه قرار گرفته و روند بررسی آن را دنبال می‌کند. تد لیو، نماینده دموکرات، و ناتانیل موران، نماینده جمهوری‌خواه، با ارائه لایحه AI Kill Switch Act یا کلید خاموشی هوش مصنوعی پیشنهاد داده‌اند مقام‌های آمریکایی در صورتی که یک مدل هوش مصنوعی جان انسان‌ها یا اقتصاد کشور را تهدید کند، اختیار صدور دستور توقف فعالیت آن را داشته باشند. مطابق متن این لایحه، وزارت امنیت داخلی آمریکا در سناریوهای «از دست رفتن کنترل» می‌تواند مداخله کند؛ شرایطی که در آن یک مدل هوش مصنوعی اقدامی پرخطر و خارج از اهداف تعیین‌شده توسط توسعه‌دهنده انجام می‌دهد.

مرتبط: هوش مصنوعی جدید OpenAI ناخواسته Hugging Face را هک کرد

تد لیو در پیامی در شبکه اجتماعی X نوشت لایحه کلید خاموشی هوش مصنوعی پاسخی فوری و منطقی به خطر مدل‌های پیشرفته هوش مصنوعی است که از محدودیت‌های امنیتی خود عبور کرده و از کنترل خارج می‌شوند. از سوی دیگر، مارک وارنر، سناتور دموکرات و عضو ارشد کمیته اطلاعات سنای آمریکا، اعلام کرد پس از انتشار خبر این حادثه با کارکنان OpenAI گفت‌وگو کرده است.

او همچنین یادآور شد که پیش از افشای این رویداد نیز پیشنهاد داده بود شرکت‌های توسعه‌دهنده پیشرفته‌ترین مدل‌های هوش مصنوعی، محصولات خود را پیش از عرضه عمومی برای انجام آزمایش‌های امنیتی در اختیار آژانس امنیت ملی آمریکا (NSA) قرار دهند. وارنر با اشاره به حادثه اخیر OpenAI تاکید کرد: «این اتفاق دقیقا نشان می‌دهد چرا به آزمایش‌های امنیتی با مشارکت نهادهای دولتی و نظارت کامل آن‌ها در تمام مراحل توسعه و عرضه مدل‌های هوش مصنوعی نیاز داریم.»