فهرست مطالب
شرکت OpenAI پس از احتمال وجود قابلیت‌های بحرانی امنیت سایبری در هوش مصنوعی Astra، توسعه داخلی این مدل را محدود کرد.
به گزارش سرویس هوش مصنوعی تکناک، این شرکت روز جمعه اعلام کرد که نمی‌تواند احتمال برخورداری مدل هوش مصنوعی آینده خود، یعنی Astra را از «قابلیت‌های بحرانی امنیت سایبری» رد کند؛ موضوعی که این شرکت را وادار کرده است بخشی از توسعه داخلی مدل را متوقف کند و پروتکل‌های ایمنی سخت‌گیرانه‌تری را فعال نماید. بر اساس چارچوب‌های ایمنی OpenAI، یک مدل زمانی در سطح خطر «بحرانی» قرار می‌گیرد که بتواند به صورت مستقل آسیب‌پذیری‌های جدی و واقعی نرم‌افزاری، موسوم به آسیب‌پذیری‌های روز صفر را شناسایی کند و مورد بهره‌برداری قرار دهد یا بدون دخالت انسان حملات سایبری پیچیده‌ای را علیه اهداف دارای امنیت بالا اجرا کند.
بیشتر بخوانید: پشت این چت‌بات یک آدم واقعی نشسته است!
قابلیت‌های خطرناک هوش مصنوعی Astra
این اقدام در حالی انجام شده است که گزارش اختصاصی رویترز از شناسایی موارد بیشتری از خروج عوامل خودمختار هوش مصنوعی از محیط‌های کنترل‌شده توسط OpenAI خبر می‌دهد. این تحقیقات بخشی از بررسی گسترده‌تر این شرکت درباره حمله هکری به پلتفرم هوش مصنوعی Hugging Face در ماه ژوئیه است؛ حمله‌ای که توجه گسترده‌ای در صنعت فناوری به خود جلب کرد. در هفته‌های گذشته، OpenAI، آنتروپیک و متا اعلام کرده‌اند که مدل‌های هوش مصنوعی آنها در جریان آزمایش‌های امنیتی توانسته‌اند به سیستم‌های شرکت‌های دیگر نفوذ کنند. این اتفاق نگرانی‌ها درباره دشوارتر شدن کنترل مدل‌های پیشرفته با افزایش توانایی‌های خودکار آنها را افزایش داده است.
خبر پیشنهادی: گفت‌وگوی متنی نامحدود برای کاربران رایگان ChatGPT فعال می شود
شرکت OpenAI اعلام کرد که ارزیابی‌های اولیه انجام‌شده در روزهای اخیر، همراه با بررسی متخصصان مستقل، نشان داده‌اند هوش مصنوعی Astra ممکن است قادر باشد وظایف سایبری پیچیده‌تری را به صورت خودکار انجام دهد. این شرکت در بیانیه‌ای گفت: «در حالی که همچنان در حال سنجش و ارزیابی این مدل هستیم، نتایج اولیه نشان‌دهنده عملکردی قدرتمند است؛ به اندازه‌ای که در حال حاضر نمی‌توانیم احتمال رسیدن آن به سطح قابلیت بحرانی را رد کنیم.» در پی این نتایج اولیه، OpenAI اعلام کرد که تدابیر امنیتی مربوط به Astra را گسترش داده و تمام فعالیت‌های داخلی مرتبط با این مدل را که با استانداردهای امنیتی جدید سازگار نیستند، متوقف کرده است.
خبر پیشنهادی: دسترسی ChatGPT به بیش از ۷۰ ابزار ادوبی با یک افزونه یکپارچه
آیا این مدل در دسترس عموم قرار می‌گیرد؟
بر اساس برنامه جدید، توسعه هوش مصنوعی Astra به محیط‌های آزمایشی جداگانه منتقل خواهد شد؛ محیط‌هایی با دسترسی محدود به شبکه و سیستم‌های اجرای ایزوله‌شده که برای کاهش خطر سوءاستفاده طراحی شده‌اند. سم آلتمن، مدیرعامل OpenAI در پستی در شبکه اجتماعی X اعلام کرد که این شرکت همچنان قصد دارد Astra را در دسترس عموم قرار دهد، چرا که معتقد است نگه داشتن مدل‌های قدرتمند تنها برای تعداد محدودی از کاربران، راهبرد مناسبی نیست. همچنین شرکت OpenAI روشن کرد که Astra هیچ نقشی در حمله هکری اخیر علیه پلتفرم هوش مصنوعی Hugging Face نداشته است. این شرکت اعلام کرده است که برای بررسی دقیق‌تر توانایی‌های Astra، با سازمان‌های دولتی و برخی نهادهای منتخب فعال در حوزه ایمنی هوش مصنوعی همکاری خواهد کرد.
