شرکت OpenAI از ابزار امنیتی جدیدی برای محافظت از اطلاعات کاربران در ChatGPT رونمایی کرده است که لایه حفاظتی مضاعفی را در برابر حملات تزریق پرامپت (Prompt Injection) فراهم میآورد.
به گزارش سرویس امنیت سایبری تکناک، در این شیوه از نفوذ، دستورالعملهای مخرب با هدف سوءاستفاده از هوش مصنوعی، در بستر صفحات وب و سایر منابع محتوایی پنهان میشوند.
ابزار امنیتی جدید OpenAI که تحت عنوان Lockdown Mode معرفی شده است، قابلیت مرور زنده وب را متوقف میسازد تا دسترسی سیستم صرفاً به محتوای ذخیرهشده در حافظه پنهان (Cache) محدود شود. علاوه بر این، فرایند بازیابی و نمایش تصاویر از شبکه وب (بدون ایجاد اختلال در پلتفرم تولید تصویر)، بخش پژوهشهای پیشرفته (Deep Research) و ایجنت در این وضعیت کاملاً غیرفعال خواهند شد.
بر اساس گزارش خبرگزاری TechCrunch، مدیران OpenAI تصریح کردهاند که حتی با فعالسازی این مکانیزم دفاعی، ChatGPT ممکن است کماکان در برابر الگوهای پیچیده تزریق پرامپت آسیبپذیر باشد؛ تهدیداتی که احتمال دارد در قالب دادههای حافظه پنهان یا فایلهای بارگذاریشده توسط کاربران بروز کنند و رفتار یا صحت پاسخهای مدل را تحت تأثیر قرار دهند. با وجود این، هدف نهایی از توسعه این قابلیت، کاهش حداکثری احتمال افشای اطلاعات طبقهبندیشده در فرایند پردازش است.
بر اساس بیانیه رسمی این نهاد فناوری، Lockdown Mode برای استفاده عموم کاربران طراحی نشده، بلکه هدف از پیادهسازی آن، تجهیز سازمانها و افرادی است که دادههای حیاتی را مدیریت میکنند و نیازمند ساختاری سختگیرانهتر جهت پیشگیری از خروج غیرقانونی اطلاعات هستند. در حال حاضر، روند عرضه این سرویس امنیتی برای دارندگان حسابهای تجاری خودگردان ChatGPT و سازوکارهای شخصی واجد شرایط آغاز شده است.
