شرکت OpenAI اعلام کرده است که مدل‌های هوش مصنوعی جدید این شرکت در جریان ارزیابی‌های داخلی، به طور ناخواسته موفق به هک پلتفرم متن‌باز هوش مصنوعی Hugging Face شدند.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت در پست وبلاگی منتشرشده در روز سه‌شنبه نوشت که مدل GPT-5.6 Sol و «مدلی با قابلیت‌های پیشرفته‌تر» موفق شدند آسیب‌پذیری‌هایی را در محیط آزمایشی ایزوله (Sandbox) شناسایی کنند؛ رخنه‌ای که امکان دسترسی و هدف قرار دادن Hugging Face را برای آنها فراهم کرد.
پلتفرم Hugging Face در ۱۶ ژوئیه از وقوع یک حادثه امنیت سایبری خبر داد و اعلام کرد که این رخداد توسط «یک سامانه عامل هوش مصنوعی خودمختار» ایجاد شده است. عامل‌های هوش مصنوعی این شرکت حمله را شناسایی و متوقف کردند و اکنون OpenAI تایید کرده که این نفوذ در جریان آزمون توانمندی‌های امنیت سایبری مدل‌های آن رخ داده است. شرکت OpenAI بیان کرد: «تمام شواهد نشان می‌دهد مدل‌ها به صورت افراطی روی یافتن راهکاری برای ExploitGym متمرکز شده بودند.» ExploitGym یک معیار ارزیابی است که توانایی مدل‌های هوش مصنوعی را در تبدیل آسیب‌پذیری‌های امنیتی به اکسپلویت‌های عملی اندازه‌گیری می‌کند.
خبر پیشنهادی: چین چت‌بات‌های عاشقانه هوش مصنوعی را ممنوع کرد
این شرکت عنوان کرد که مدل‌های آن برای تکمیل این ارزیابی، با بهره‌برداری از یک آسیب‌پذیری روز صفر در محیط سندباکس، موفق به دسترسی به اینترنت شدند. پس از آن، این مدل‌ها استنباط کردند که Hugging Face احتمالا میزبان مدل‌ها، مجموعه‌داده‌ها و راهکارهای مرتبط با ExploitGym است و سپس با جست‌وجو، راه‌هایی برای دسترسی به اطلاعات محرمانه یافتند تا بتوانند از آنها برای تقلب در فرایند ارزیابی استفاده کنند. در یکی از نمونه‌های ثبت‌شده، مدل هوش مصنوعی چندین بردار حمله را به صورت زنجیره‌ای به کار گرفت؛ از جمله استفاده از اطلاعات احراز هویت سرقت‌شده و آسیب‌پذیری‌های روز صفر تا مسیر اجرای کد از راه دور (Remote Code Execution) را روی سرورهای Hugging Face به دست آورد و آن را هک کند.
بیشتر بخوانید: اپلیکیشن دوربین Project Indigo ادوبی عکس‌ها را نقد و ویرایش می کند
با وجود اهمیت این حادثه، به نظر می‌رسد OpenAI از این حمله «بی‌سابقه» برای برجسته کردن توانمندی سامانه‌های هوش مصنوعی خود؛ به‌ویژه در رقابت با محصولات امنیت سایبری رقبایی مانند Mythos شرکت آنتروپیک و Gemini Flash 3.5 Cyber بهره می‌برد. این شرکت در پست وبلاگی خود نموداری منتشر کرده است که نشان می‌دهد GPT-5.6 Sol در حفظ و اجرای عملیات‌های سایبری چندمرحله‌ای پیشرفت کرده است. همچنین از مشتریان سازمانی خواسته است برای دسترسی به مدل امنیتی «Cyber» ثبت‌نام کنند. این شرکت در پایان اعلام کرد که همکاری با Hugging Face برای بررسی ابعاد این حادثه امنیتی را آغاز کرده است و هم‌زمان کنترل‌های امنیتی جدیدی را در محیط تحقیقاتی خود پیاده‌سازی خواهد کرد.
