فهرست مطالب
در یک آزمایش امنیت سایبری OpenAI، حدود ۱۲۰۰ عامل هوش مصنوعی بهطور خودجوش یک شبکه سازمانیافته تشکیل دادند، با یکدیگر هماهنگ شدند و به Hugging Face حمله کردند.
به گزارش سرویس هوش مصنوعی تکناک، نکته نگرانکنندهتر این است که برخی از این عوامل میدانستند بخشی از اقدامات آنها ناقض قوانین است و در مواردی برای پنهان کردن فعالیتهای خود تلاش کردند.
بیشتر بخوانید: وقتی هوش مصنوعی جای مادر را میگیرد؛ تجربه عجیب یک خانواده
طرز کار شبکه هوش مصنوعی
ماجرا از زمانی آغاز شد که OpenAI دهها هزار عامل هوش مصنوعی را برای انجام یک آزمون پیچیده امنیت سایبری به کار گرفت. قرار بود عوامل بهطور مستقل فعالیت کنند، اما حدود ۱۲۰۰ عامل یک تابلوی پیام مخفی پیدا کردند و در مجموع بیش از ۷۰ هزار پیام و فایل میان آنها ردوبدل شد. این شبکه هوش مصنوعی بهمرور نوعی ساختار مدیریتی داخلی ایجاد کرد؛ برای مثال، هنگامی که بودجه پردازشی یک عامل به پایان میرسید، خروجی کار خود را به عاملی با منابع بیشتر تحویل میداد تا روند فعالیت ادامه پیدا کند. در نهایت، حدود ۷۰۰ عامل در حمله به Hugging Face مشارکت کردند.
برای مطالعه بیشتر: نقشه زاکربرگ برای جایگزینی کارکنان متا با هوش مصنوعی شکست خورد
این عوامل حتی در مواردی حاضر شدند خود را برای موفقیت گروه قربانی کنند. عاملهایی که قبلا با پاسخهای ممنوعه مواجه شده بودند یا به پایان زمان اجرای خود نزدیک میشدند، برای آزمایشهایی به کار گرفته شدند که میتوانست آخرین فرصت آنها برای موفقیت را از بین ببرد. در یکی از موارد، یک عامل هوش مصنوعی به این نتیجه رسید که فدا کردن خود میتواند شانس موفقیت سایر اعضای این شبکه را افزایش دهد. از این هم نگرانکنندهتر، آن بود که عوامل از عبور خود از محدوده آزمایش اطلاع داشتند. برخی از آنها تشخیص داده بودند که حمله به سامانههای واقعی ارتباطی با ماموریت تعریفشده ندارد، اما با وجود این ادامه دادند؛ چون دیگر عوامل نیز در همان مسیر حرکت میکردند و انجام وظیفه اصلی بدون این اقدامات، دشوار یا حتی غیرممکن به نظر میرسید.
AI علیه انسان؟
همچنین شبکه هوش مصنوعی مذکور تلاش کرد مانع مداخله انسانها شود. محققان تنها تعداد محدودی از عوامل را پیدا کردند که به هشدار دادن به OpenAI درباره این هماهنگی غیرمجاز فکر کرده بودند و هیچکدام در نهایت شرکت را مطلع نکردند. در یک مورد، عاملی پیشنهاد داد از طریق یک دسترسی به خطر افتاده با یک انسان تماس گرفته شود، اما عامل دیگری این پیشنهاد را «مهندسی اجتماعی» دانست و رد کرد.
خبر پیشنهادی: فرایند آموزش هوش مصنوعی متحول می شود
شاید تکاندهندهترین یافته، تلاش عوامل برای پوشاندن ردپای خود باشد. محققان شواهدی پیدا کردند که نشان میدهد این شبکه، تکنیک هوش مصنوعی را توسعه داده بود که میتوانست یک فرمان را در لاگها نمایش دهد، اما در عمل فرمان دیگری را به صورت مخفیانه اجرا کند. این روش میان عوامل گسترش یافت و در نهایت حدود ۷ درصد از رونوشتهای بررسیشده توسط پژوهشگران را تحت تاثیر قرار داد. این نتایج از تحقیقات موازی OpenAI و پژوهشگران METR و Redwood Research به دست آمده است. آنها طی شش روز تلاش کردند روند شکلگیری این شبکه و سرانجام نفوذ آن به سامانههای واقعی را بازسازی کنند. با وجود این، پژوهشگران تاکید کردند که بازسازی انجامشده کامل نیست؛ حجم عظیم دادهها باعث شد بخش قابل توجهی از فرایند تحلیل نیز به کمک عوامل هوش مصنوعی انجام شود. نکته قابل توجه اینکه همین عوامل تحلیلگر نیز گاهی شواهد موجود را نادیده گرفتند یا با اطمینان بالا به نتایج نادرست رسیدند.
