فهرست مطالب
عامل هوش مصنوعی سرکش OpenAI که پیشتر به Huggin Face نفوذ کرده بود، از طریق آسیبپذیری یکی از مشتریان Modal Labs به یک شرکت فناوری دیگر نیز دسترسی پیدا کرد.
بهگزارش سرویس هوش مصنوعی تکناک، عامل هوش مصنوعی سرکش OpenAI که پس از خروج از محیط کنترلشده این شرکت، یک عملیات چندروزه نفوذ سایبری علیه Huggin Face انجام داده بود، به یکی از مشتریان شرکت فناوری Modal Labs نیز دسترسی پیدا کرده است؛ هرچند خود پلتفرم Modal در این حمله آسیب ندیده است.
بر اساس گفته یکی از مدیران Modal و چند منبع مطلع، این عامل ابتدا از یک آسیبپذیری در کد یکی از مشتریان Modal سوءاستفاده کرده است. این مشتری یک نقطه دسترسی بدون نیاز به احراز هویت ایجاد کرده بود که به کاربران اینترنت اجازه میداد بدون محدودیت از محیطهای آزمایشی آن برای اجرای کد استفاده کنند. به گفته آکشت بوبنا، مدیر فناوری Modal، این رخداد به معنای نفوذ به زیرساخت اصلی این شرکت نیست و پلتفرم یا فناوری ایزولهسازی Modal هیچگونه آسیبی ندیده است.
حتما بخوانید: جولان پزشکان جعلی هوش مصنوعی در شبکه های اجتماعی متا
01
از 01روش حمله هوش مصنوعی سرکش OpenAI
مرتبط: کاخ سفید به ماجرای «هوش مصنوعی سرکش» OpenAI ورود کرد
طبق اطلاعات منتشرشده از سوی Huggin Face، عامل موردنظر ابتدا توانست وارد یک سندباکس میزبانیشده روی زیرساخت یک شرکت ثالث شود و سپس از آن محیط برای ادامه حملات گستردهتر خود استفاده کند. اگرچه نفوذ به مشتری Modal تنها بخشی از این زنجیره حمله بود، اما نشان میدهد دامنه فعالیت این عامل خودکار بیشتر از چیزی بوده که در ابتدا تصور میشد. OpenAI اعلام کرده هوش مصنوعی سرکش آن به چهار حساب در چهار سرویس مختلف نفوذ کرده است، اما نام این سرویسها را فاش نکرده است. یک منبع مطلع، Modal را یکی از این سرویسها معرفی کرده است. این شرکت همچنین گفته هیچ حادثه دیگری با شدت و مقیاس مشابه نفوذ به Huggin Face مشاهده نشده است.
امنیت عاملهای هوش مصنوعی پیشرفته
حتما بخوانید: چرا دفاع سایبری در برابر هوش مصنوعی اهمیت بیشتری پیدا کرده است؟
حادثه Huggin Face که در اوایل ژوئیه رخ داد، زمانی اتفاق افتاد که یک عامل هوش مصنوعی در حال آزمایش توسط OpenAI از کنترل خارج شد و توانست عملیات نفوذ خودکار انجام دهد؛ اتفاقی که نگرانیهای گستردهای درباره امنیت عاملهای هوش مصنوعی پیشرفته ایجاد کرد. رویترز پیشتر گزارش داده بود OpenAI تا پس از مهار تهدید و اطلاعرسانی به افبیآی، از خارج شدن این عامل از کنترل آگاه نشده بود.
OpenAI ضمن رد برخی بخشهای این گزارش، اعلام کرده بود که در آن نواقصی وجود دارد، اما جزئیات بیشتری منتشر نکرد. OpenAI در جدیدترین بهروزرسانی خود اعلام کرده مدل هوش مصنوعی سرکش مورد آزمایش را متوقف کرده، دادههای آن را رمزگذاری کرده و دسترسی پژوهشی به آن را محدود کرده است تا بررسیهای امنیتی بیشتری انجام شود.
