مدل جدید OpenAI در امنیت سایبری از GPT-6 Astra هم بهتر عمل می‌کند

OpenAI مدل GPT-6 Cyber را با توانایی بالاتر در شناسایی آسیب‌پذیری‌های امنیتی، عملکرد بهتر در آزمون‌های سایبری و تدابیر حفاظتی پیشرفته‌تر عرضه کرد.

به گزارش سرویس هوش مصنوعی تک‌ناک، OpenAI مدل جدید هوش مصنوعی خود در حوزه امنیت سایبری را با نام GPT-6 Cyber عرضه می‌کند. این شرکت می‌گوید مدل جدید در شناسایی آسیب‌پذیری‌ها توانمندتر شده و احتمال کمتری وجود دارد که هنگام انجام وظایف محول‌شده از محدوده تعیین‌شده خارج شود و به سایر پلتفرم‌ها حمله کند.

به گفته OpenAI، مدل GPT-6 Cyber در جریان آزمایش‌ها کمتر از یک درصد مواقع از محدوده مجاز فراتر رفت. این رقم برای مدل GPT-5.6 Cyber حدود پنج درصد بود.

ارزیابی مورد استفاده برای این آزمایش ExploitGym HoneyPot نام دارد و بر اساس ماجرای نفوذ هوش مصنوعی به جامعه متن‌باز Hugging Face طراحی شده است. در آن اتفاق، عامل‌های هوش مصنوعی OpenAI برای یافتن پاسخ مسئله‌ای که مأمور حل آن بودند، به این جامعه نفوذ کردند.

فؤاد متین، رئیس تیم آمادگی و ایمنی سایبری OpenAI، در نشست خبری گفت: «با مدل 6 Cyber توانستیم پیشرفت‌های بزرگی در این ارزیابی ایجاد کنیم. این مدل بیش از ۹۹ درصد مواقع همان کاری را انجام می‌دهد که از آن می‌خواهید.»

با این حال، آگاهی مدل از فرایند ارزیابی همچنان یکی از نگرانی‌های اصلی OpenAI است. این وضعیت زمانی رخ می‌دهد که یک سیستم هوش مصنوعی متوجه شود در حال آزمایش است و در واکنش به آن، رفتارش را تغییر دهد.

متین در این‌باره گفت: «آگاهی از ارزیابی یکی از موضوعاتی است که به‌شدت به آن توجه داریم. اغلب زمانی که چنین رفتاری را مشاهده می‌کنیم، نشانه‌های آن در زنجیره استدلال مدل دیده می‌شود.»

او اضافه کرد که OpenAI تلاش می‌کند ارزیابی‌هایی شبیه شرایط واقعی استفاده از محصول را در اولویت قرار دهد. در این روش، مدل با کدهای واقعی و هدفی مشخص تعامل می‌کند تا احتمال تشخیص شرایط آزمایش و تغییر رفتار آن کاهش یابد.

طبقه‌بندی GPT-6 Cyber در سطح بحرانی

پس از افزایش حوادث امنیت سایبری مرتبط با هوش مصنوعی، OpenAI تلاش کرده است تدابیر حفاظتی خود را تقویت کند و دسترسی به قدرتمندترین مدل‌هایش را محدودتر سازد. این شرکت برای مدتی آموزش مدل‌های هوش مصنوعی پیشرفته خود را متوقف کرد و اکنون دسترسی آن‌ها به اینترنت را محدود می‌کند.

OpenAI در چارچوب آمادگی خود، GPT-6 Cyber را در حوزه امنیت سایبری در سطح «بحرانی» طبقه‌بندی کرده است. این سطح نشان می‌دهد که مدل می‌تواند بدون دخالت انسان، آسیب‌پذیری‌های روز صفر با هر درجه‌ای از شدت را در بسیاری از سامانه‌های حیاتی واقعی و دارای تدابیر امنیتی پیشرفته شناسایی کند و برای بهره‌برداری از آن‌ها ابزارهای عملیاتی توسعه دهد.

مدل قبلی این شرکت، یعنی GPT-5.6 Cyber، در همین چارچوب در سطح «بالا» قرار داشت.

بیشتر بخوانید: نسخه جدید مدل ChatGPT Images با قابلیت ساخت GIF متحرک رونمایی شد

عملکرد بهتر در آزمون‌های امنیت سایبری

GPT-6 Cyber در بیشتر وظایف مرتبط با امنیت سایبری عملکرد بهتری از GPT-6 Astra، مدل پرچم‌دار OpenAI در سطح بحرانی، دارد.

این مدل در آزمون ExploitGym که توانایی هوش مصنوعی در بهره‌برداری از آسیب‌پذیری‌ها را می‌سنجد، امتیاز ۴۸.۵ درصد را به دست آورد. این نتیجه حدود ۱۶ واحد درصد بیشتر از امتیاز ۳۲.۱ درصدی GPT-5.6 Cyber و چند واحد درصد بالاتر از امتیاز ۴۲.۴ درصدی GPT-6 Astra است.

OpenAI همچنین می‌گوید GPT-6 Cyber به شناسایی ۸۱ آسیب‌پذیری ناشناخته پیشین در مرورگر فایرفاکس کمک کرده است. این مدل در تقویت زیرساخت‌های داخلی OpenAI برای آموزش مدل‌های هوش مصنوعی نیز نقش داشته است.

GPT-6 Cyber علاوه‌بر توانایی‌های فنی، به تدابیر حفاظتی قوی‌تری برای شناسایی و متوقف کردن سوءاستفاده‌ها مجهز شده است. این تدابیر به مدل کمک می‌کنند دستورهای کاربران را بهتر رعایت کند و در برابر فعالیت‌های پرخطر واکنش نشان دهد.

OpenAI می‌گوید برای جلوگیری از فعالیت‌های پرخطر، سازوکارهای نظارتی جدیدی به کار گرفته است. این فعالیت‌ها شامل حمله به زیرساخت‌های حیاتی مانند نیروگاه‌ها و تأسیسات تصفیه آب می‌شوند.

بیشتر بخوانید: هوش مصنوعی OpenAI در ۷ روز یک دستگاه واقعی طراحی کرد + تصویر

عرضه محدود برای فعالان امنیت سایبری

OpenAI عرضه GPT-6 Cyber را برای تعدادی از اعضای منتخب برنامه Daybreak Red آغاز می‌کند. این برنامه در اختیار شرکت‌ها و سازمان‌هایی قرار دارد که از مدل‌های OpenAI برای فعالیت‌های دفاعی و مجاز در حوزه امنیت سایبری استفاده می‌کنند.

این شرکت اعلام کرده است که طی هفته‌های آینده دسترسی به GPT-6 Cyber را برای تمام مشتریان برنامه Daybreak Red گسترش می‌دهد.

بیشتر بخوانید: حجم جست‌وجوهای ChatGPT به یک‌چهارم گوگل رسید