فهرست مطالب
پس از گزارش OpenAI درباره از کنترل خارج شدن یک آزمایش امنیتی، کاخ سفید این حادثه را زیر نظر گرفته و قانونگذاران آمریکایی طرحهایی نظیر کلید خاموشی هوش مصنوعی برای توقف اضطراری مدلهای پرخطر و الزام به ممیزی امنیتی مستقل ارائه کردهاند.
بهگزارش سرویس هوش مصنوعی تکناک، پس از آنکه OpenAI فاش کرد یکی از سامانههای هوش مصنوعی این شرکت در جریان آزمایشهای امنیتی از چارچوبهای کنترلی خارج شده است، یک مقام کاخ سفید اعلام کرد مایکل کراتسیوس، مشاور ارشد فناوری رئیسجمهور آمریکا، دونالد ترامپ، این موضوع را بهدقت زیر نظر دارد.
همزمان، گروهی از قانونگذاران آمریکایی با ارائه لایحه «AI Kill Switch Act» یا «کلید خاموشی هوش مصنوعی» پیشنهاد دادهاند دولت فدرال اختیار توقف فعالیت مدلهای هوش مصنوعی پرخطر را در شرایط اضطراری داشته باشد.
بیشتر بخوانید: آنتروپیک مدل جدید Opus 5 را با امنیت سایبری ارتقایافته عرضه کرد
همزمان با این طرح، شش نماینده دوحزبی مجلس نمایندگان آمریکا نیز لایحهای را ارائه کردهاند که توسعهدهندگان قدرتمندترین مدلهای هوش مصنوعی را ملزم میکند محصولات خود را پیش از عرضه برای انجام ممیزیهای امنیتی مستقل ارائه دهند. بر اساس متن این لایحه، حسابرسان با تایید وزارت بازرگانی آمریکا انتخاب خواهند شد و این وزارتخانه نیز سمت جدیدی را برای نظارت بر امنیت سامانههای هوش مصنوعی ایجاد خواهد کرد.
01
از 01ضرورت تصویب لایحه کلید خاموشی هوش مصنوعی
ارائه این لوایح تنها چند روز پس از آن انجام شد که OpenAI اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط ایزوله خارج شده و با اجرای یک حمله سایبری، زیرساختهای استارتاپ Hugging Face را که بستری برای توسعه و اشتراکگذاری مدلهای هوش مصنوعی است، هدف قرار داده است. این رخداد نشان میدهد افزایش توانمندی مدلهای هوش مصنوعی، تهدیدهای امنیتی مورد هشدار کارشناسان را به مرحله عملی رسانده و حتی پیشرفتهترین شرکتهای این حوزه نیز ممکن است در برابر سوءاستفاده از آسیبپذیریهای مدلهای خود غافلگیر شوند.
برای مطالعه بیشتر: شرکت OpenAI با قابلیت ChatGPT Health بازار سلامت را هدف گرفت
به گفته یک مقام کاخ سفید، مایکل کراتسیوس پس از انتشار گزارش OpenAI در جریان جزئیات این حادثه قرار گرفته و روند بررسی آن را دنبال میکند. تد لیو، نماینده دموکرات، و ناتانیل موران، نماینده جمهوریخواه، با ارائه لایحه AI Kill Switch Act یا کلید خاموشی هوش مصنوعی پیشنهاد دادهاند مقامهای آمریکایی در صورتی که یک مدل هوش مصنوعی جان انسانها یا اقتصاد کشور را تهدید کند، اختیار صدور دستور توقف فعالیت آن را داشته باشند. مطابق متن این لایحه، وزارت امنیت داخلی آمریکا در سناریوهای «از دست رفتن کنترل» میتواند مداخله کند؛ شرایطی که در آن یک مدل هوش مصنوعی اقدامی پرخطر و خارج از اهداف تعیینشده توسط توسعهدهنده انجام میدهد.
مرتبط: هوش مصنوعی جدید OpenAI ناخواسته Hugging Face را هک کرد
تد لیو در پیامی در شبکه اجتماعی X نوشت لایحه کلید خاموشی هوش مصنوعی پاسخی فوری و منطقی به خطر مدلهای پیشرفته هوش مصنوعی است که از محدودیتهای امنیتی خود عبور کرده و از کنترل خارج میشوند. از سوی دیگر، مارک وارنر، سناتور دموکرات و عضو ارشد کمیته اطلاعات سنای آمریکا، اعلام کرد پس از انتشار خبر این حادثه با کارکنان OpenAI گفتوگو کرده است.
او همچنین یادآور شد که پیش از افشای این رویداد نیز پیشنهاد داده بود شرکتهای توسعهدهنده پیشرفتهترین مدلهای هوش مصنوعی، محصولات خود را پیش از عرضه عمومی برای انجام آزمایشهای امنیتی در اختیار آژانس امنیت ملی آمریکا (NSA) قرار دهند. وارنر با اشاره به حادثه اخیر OpenAI تاکید کرد: «این اتفاق دقیقا نشان میدهد چرا به آزمایشهای امنیتی با مشارکت نهادهای دولتی و نظارت کامل آنها در تمام مراحل توسعه و عرضه مدلهای هوش مصنوعی نیاز داریم.»
