فهرست مطالب
پژوهشگران امنیتی با استفاده از Claude به سیستم داخلی OpenAI نفوذ کردند و هشدار دادند که مدلهای جدید، توانایی مهاجمان سایبری را افزایش میدهند.
به گزارش سرویس هوش مصنوعی تکناک،این اتفاق، در کنار هشدارهای گستردهتر مدیران و پژوهشگران صنعت درباره ایمنی این فناوری، نشاندهنده افزایش تهدیدهایی است که مدلهای پیشرفته هوش مصنوعی میتوانند ایجاد کنند.
پژوهشگران شرکت امنیت سایبری Hacktron AI اعلام کردند که توانستهاند به حساب ChatGPT یکی از کارکنان OpenAI دسترسی پیدا کنند. این دسترسی سپس به آنها امکان داد به کد داخلی شرکت در GitHub دسترسی داشته باشند
هک OpenAI تنها چند روز زمان برد
روزنامه والاستریت ژورنال نخستین رسانهای بود که این حادثه را گزارش کرد.
طبق این گزارش، پژوهشگران در برنامه OpenAI برای شناسایی آسیبپذیریها شرکت کرده بودند و این شرکت در ازای افشای یافتههای آنها، ۶۵۰۰ دلار جایزه باگبانتی پرداخت کرد.
Hacktron در گزارش خود درباره این حادثه اعلام کرد که پژوهشگران ابتدا تلاش کردند از Claude Opus 4.8 شرکت Anthropic برای انجام نفوذ استفاده کنند، اما این مدل «در چندین جلسه برای تولید یک اکسپلویت عملی با مشکل مواجه شد».
با این حال، پس از عرضه Opus 5 توسط Anthropic، پژوهشگران دوباره تلاش کردند و این بار موفق شدند. آنها در گزارش خود تأکید کردند که «هر مدل جدید، توانایی بیشتری پیدا میکند».
به گزارش والاستریت ژورنال، پژوهشگران به «نسخه ویژهای» از Claude دسترسی داشتند که برای «متخصصان واجد شرایط حوزه امنیت سایبری» ارائه شده است.
پژوهشگران در گزارش خود اعلام کردند که انجام هک OpenAI برای یک عامل هوش مصنوعی تنها «چند روز» و برای انسانها فقط «چند ساعت زمان» برده است.
این نفوذ بخشی از پروژه تحقیقاتی گستردهتری با نام «HEIF Heist» بود. این پروژه، آسیبپذیریهای مربوط به نحوه پردازش برخی فایلهای تصویری توسط نرمافزارها و سرویسهای مختلف را بررسی میکرد.
اکسپلویت مورد استفاده در این پروژه توانسته است آسیبپذیریهایی را در سرویسهایی مانند Slack، Zoom و Meta پیدا کند.
اجرای کل پروژه تنها دو ماه زمان برد و سه پژوهشگر در آن مشارکت داشتند. هزینه این پروژه نیز در مجموع کمتر از ۳۰۰۰ دلار برای توکنهای هوش مصنوعی اعلام شده است.
بیشتر بخوانید: آیا مهندسان آنتروپیک واقعاً Claude را میپرستند؟
هشدار پژوهشگران درباره افزایش توانایی مهاجمان
پژوهشگران در یادداشت پایانی گزارش خود نوشتند: «نرمافزارها مدتها از نوعی امنیت ناشی از پیچیدگی بهره بردهاند…
هوش مصنوعی با تبدیل بخش بیشتری از این تخصص کمیاب به توان پردازشی، این محافظت را کاهش میدهد.
کاری که زمانی به یک تیم مجهز و ماهها تلاش نیاز داشت، اکنون میتواند در چند روز انجام شود… فرضیات امنیتی باید خود را با توانایی مهاجمان هماهنگ کنند.»
فوربس برای دریافت نظر OpenAI درباره این حادثه با این شرکت تماس گرفته است.
OpenAI در پاسخ به رسانههای دیگر اعلام کرده که از پژوهشگران بابت یافتههایشان تشکر کرده و پس از شناسایی این آسیبپذیریها، آنها را برطرف کرده است.
بیشتر بخوانید: Claude سادهتر شد؛ آنتروپیک حالت Cowork را با چت ادغام کرد
هک OpenAI با Claude
