مدل Astra OpenAI در راه است

شرکت OpenAI جزئیات تازه‌ای از مدل Astra منتشر کرده که به «سطح بحرانی توانایی‌های امنیت سایبری» رسیده است.

به گزارش سرویس هوش‌مصنوعی تک‌ناک، این موضوع باعث شده است که OpenAI پیش از عرضه عمومی، تدابیر امنیتی سخت‌گیرانه‌تری برای نخستین مدل زبانی بزرگ خود در نظر بگیرد.

طبق اعلام OpenAI، مدل Astra در شرایط مناسب و با دسترسی به ابزارهای لازم می‌تواند آسیب‌پذیری‌های امنیتی ناشناخته را شناسایی کند و روش‌هایی برای بهره‌برداری از آنها توسعه دهد. با وجود این، OpenAI اعلام کرده است که دسترسی به پیشرفته‌ترین قابلیت‌های سایبری این مدل در ابتدا محدود خواهد بود.

بیشتر بخوانید: مدل امنیتی جدید OpenAI برای تحقیقات امنیت سایبری معرفی شد

این شرکت اعلام کرده که Astra نخستین مدلی است که معیار «Critical Cybersecurity Capability» یا توانایی بحرانی در امنیت سایبری را پشت سر گذاشته است. این سطح از توانایی به مدل‌هایی اشاره دارد که می‌توانند بدون دریافت راهنمایی مرحله‌به‌مرحله از انسان، ضعف‌های امنیتی پیچیده را شناسایی کنند.

مدل Astra در یکی از آزمایش‌های امنیتی با نام ExploitBench توانست عملکرد بسیار قدرتمندی از خود نشان دهد. همچنین OpenAI اعلام کرده که این مدل در ارزیابی‌های داخلی توانسته است دو آسیب‌پذیری روز صفر یا Zero-Day را به‌ عنوان بخشی از یک زنجیره exploit شناسایی و مورد استفاده قرار دهد.

این قابلیت‌ها می‌توانند برای تقویت امنیت سیستم‌ها و شناسایی سریع‌تر ضعف‌ها مفید باشند، اما در عین حال نگرانی‌هایی جدی درباره سوءاستفاده از هوش مصنوعی در حملات سایبری ایجاد می‌کنند.

دسترسی به قابلیت‌های پیشرفته مدل Astra OpenAI

شرکت OpenAI گفته است که مدل Astra به‌ زودی عرضه می‌شود، اما همه کاربران به قدرتمندترین قابلیت‌های امنیت سایبری آن دسترسی نخواهند داشت.

در مرحله ابتدایی، قابلیت‌های پیشرفته Astra برای گروه محدودی از آزمایش‌کنندگان و کاربران منتخب ارائه می‌شود. هدف از این تصمیم، بررسی عملکرد مدل در شرایط واقعی و جلوگیری از استفاده احتمالی افراد مخرب از توانایی‌های آن است.

این رویکرد نشان می‌دهد که عرضه مدل‌های قدرتمند هوش مصنوعی دیگر تنها به افزایش سرعت، قدرت استدلال یا توانایی برنامه‌نویسی محدود نمی‌شود. اکنون شرکت‌های فعال در حوزه AI باید خطرات امنیتی مدل‌های خود را نیز پیش از انتشار عمومی مدیریت کنند.

شرکت OpenAI برای کاهش خطرات احتمالی، چندین لایه امنیتی جدید برای مدل Astra در نظر گرفته است. این شرکت اعلام کرده که سیستم‌های خود را برای شناسایی درخواست‌های خطرناک، مقابله با jailbreak و جلوگیری از فعالیت‌های غیرمجاز تقویت کرده است.

یکی از اقدامات مهم OpenAI، اعمال محدودیت‌های بیشتر برای حساب‌هایی است که احتمال داده می‌شود در معرض خطر سوءاستفاده قرار داشته باشند. همچنین Astra با سیستم‌های نظارتی بیشتری عرضه خواهد شد تا فعالیت‌های مشکوک یا خارج از محدوده مجاز سریع‌تر شناسایی و متوقف شوند.

این شرکت بیان کرده که Astra در آزمایش‌های داخلی، نسبت به مدل‌های قبلی تمایل بیشتری به رعایت محدودیت‌های امنیتی داشته است. با وجود این، خود OpenAI نیز تأکید کرده است که هیچ سیستم حفاظتی کاملا بدون خطا نیست و برخی از اقدامات امنیتی ممکن است حتی فعالیت‌های قانونی کاربران را نیز موقتا محدود کنند.

نگرانی‌های جدید درباره هوش مصنوعی‌ خودمختار

آماده‌سازی Astra برای عرضه در شرایطی انجام می‌شود که صنعت هوش مصنوعی توجه بیشتری به خطرات مدل‌های خودمختار نشان می‌دهد. توانایی یک مدل برای اجرای وظایف پیچیده بدون نظارت دائمی انسان، مزایای زیادی دارد، اما هم‌زمان می‌تواند ریسک‌های تازه‌ای نیز ایجاد کند.

به گفته OpenAI، مدل Astra در آزمایش‌هایی که برای بررسی احتمال خروج از محیط آزمایشی طراحی شده بودند، تلاش نکرده است محدودیت‌های تعیین‌شده را دور بزند. با وجود این، کارشناسان معتقد هستند ارزیابی ایمنی مدل‌های بسیار قدرتمند باید به‌ صورت مداوم ادامه پیدا کند.

بیشتر بخوانید: شرکت OpenAI از رفتار غیرمنتظره چند عامل هوش مصنوعی دیگر خبر داد

آینده مدل Astra OpenAI چه خواهد بود؟

شرکت OpenAI هنوز تاریخ دقیق عرضه عمومی این مدل را اعلام نکرده، اما تأکید کرده است که این مدل به‌ زودی در دسترس قرار خواهد گرفت. انتظار می‌رود جزئیات کامل‌تر درباره توانایی‌ها، ارزیابی‌های امنیتی و محدودیت‌های Astra هم‌زمان با عرضه گسترده‌تر آن منتشر شود.

این مدل می‌تواند یکی از مهم‌ترین نقاط عطف صنعت هوش مصنوعی در سال ۲۰۲۶ باشد؛ نه فقط به‌ دلیل قدرت بالای آن، بلکه به این دلیل که برای نخستین بار یک مدل هوش مصنوعی به سطحی از توانایی‌های سایبری رسیده که عرضه آن نیازمند محدودیت‌ها و محافظت‌های ویژه است.

حالا باید دید OpenAI تا چه اندازه می‌تواند میان استفاده از این فناوری برای تقویت امنیت سایبری و جلوگیری از سوءاستفاده‌های احتمالی تعادل برقرار کند.