رقابت چین و آمریکا در امنیت سایبری هوش مصنوعی

01

از 07

عملکرد GLM-5.3 در شناسایی آسیب‌پذیری‌ها

یکی از مهم‌ترین آزمون‌هایی که Z.ai برای مقایسه مدل خود با Mythos 5 به آن استناد کرده، CyberGym است. این آزمایش توانایی یک مدل هوش مصنوعی را در بررسی کد، پیدا کردن نقص‌های امنیتی و تأیید واقعی بودن آن‌ها ارزیابی می‌کند.

طبق داده‌های اعلام‌شده از سوی Z.ai، مدل GLM-5.3 در این آزمایش موفق به کسب امتیاز 84.5 درصد شده است. در مقابل، این شرکت امتیاز 83.8 درصدی را برای Mythos 5 اعلام کرده است.

به این ترتیب، GLM-5.3 در این بخش عملکردی اندکی بهتر از مدل Anthropic داشته است. با این حال، نتایج اعلام‌شده تاکنون به‌صورت مستقل تأیید نشده‌اند و بنابراین نمی‌توان این ارقام را به‌عنوان نتیجه قطعی یک مقایسه رسمی در نظر گرفت.

02

از 07

GLM-5.3 در ساخت حمله عملی همچنان عقب‌تر است

اما داستان در مرحله بعدی متفاوت می‌شود. پیدا کردن یک آسیب‌پذیری تنها بخشی از فرآیند تحقیقات امنیتی است و تبدیل آن نقص به یک حمله عملی، مرحله پیچیده‌تری محسوب می‌شود.

در آزمایش ExploitBench، مدل GLM-5.3 امتیاز 54.4 درصد را به دست آورده، درحالی‌که امتیاز اعلام‌شده برای Mythos 5 برابر با 78 درصد بوده است.

در یک آزمایش زمان‌محور دیگر نیز GLM-5.3 در مدت دو ساعت توانست 105 وظیفه مرتبط با توسعه حمله را انجام دهد و این رقم پس از شش ساعت به 130 وظیفه رسید. Mythos 5 در همین بازه‌ها به‌ترتیب 181 و 247 وظیفه را تکمیل کرده است.

این نتایج نشان می‌دهند که GLM-5.3 در شناسایی نقص‌های امنیتی به رقیب خود بسیار نزدیک شده، اما در تبدیل این یافته‌ها به حملات عملی هنوز فاصله قابل توجهی دارد.

03

از 07

Z.ai برای انتشار عمومی GLM-5.3 احتیاط می‌کند

Z.ai اعلام کرده است که قصد دارد GLM-5.3 را پس از انجام بررسی‌های امنیتی، حدود دو هفته دیگر به‌صورت عمومی منتشر کند. با این حال، حساس‌ترین قابلیت‌های امنیت سایبری این مدل قرار نیست بدون محدودیت در اختیار همه کاربران قرار بگیرند.

طبق برنامه اعلام‌شده، برخی قابلیت‌های امنیتی از طریق طرحی با عنوان Trusted Access تنها برای کاربران تأییدشده فعال خواهند شد.

Z.ai همچنین اعلام کرده پیش از انتشار گسترده مدل، لایه‌های مختلفی از محافظت را به آن اضافه کرده است. این لایه‌ها شامل بررسی درخواست‌های پرخطر، نظارت بر فعالیت مدل و آموزش آن برای رد وظایف مخرب هستند.

هدف شرکت این است که مدل بتواند میان کاربردهای قانونی مانند رفع باگ، آموزش امنیت سایبری و آزمایش‌های امنیتی مجاز با درخواست‌های مخرب تفاوت قائل شود.

بیشتر بخوانید: آنتروپیک مدل جدید Opus 5 را با امنیت سایبری ارتقایافته عرضه کرد

04

از 07

نگرانی درباره انتشار مدل متن‌باز

یکی از چالش‌های مهم درباره GLM-5.3، ماهیت متن‌باز آن است. کارشناسان معتقدند کنترل قابلیت‌های امنیتی یک مدل زمانی که مدل برای دانلود، تغییر و ترکیب با ابزارهای دیگر در اختیار کاربران قرار بگیرد، دشوارتر خواهد شد.

این موضوع به یکی از بحث‌های مهم درباره توسعه مدل‌های هوش مصنوعی قدرتمند تبدیل شده است. مدلی که می‌تواند آسیب‌پذیری‌های نرم‌افزاری را پیدا کند، از یک طرف برای مدافعان امنیت سایبری بسیار ارزشمند است و می‌تواند به کشف سریع‌تر نقص‌ها کمک کند؛ اما از طرف دیگر، همین قابلیت ممکن است در اختیار مهاجمان نیز قرار بگیرد.

Z.ai می‌گوید GLM-5.3 برای کاهش این خطر به چندین لایه محافظتی مجهز شده است، اما مشخص نیست این محدودیت‌ها پس از انتشار عمومی مدل تا چه اندازه قابل حفظ خواهند بود.

05

از 07

Z.ai به دنبال رقابت مستقیم با Mythos 5 است

Z.ai عرضه GLM-5.3 را تنها یک به‌روزرسانی معمولی نمی‌داند و آن را به‌نوعی چالش برای مدل‌های امنیت سایبری محدودشده مانند Mythos 5 معرفی کرده است.

Mythos 5 نسخه‌ای از مدل Claude Fable 5 شرکت Anthropic است که برخی محدودیت‌های امنیت سایبری آن حذف شده و دسترسی به آن تنها برای سازمان‌های تأییدشده امکان‌پذیر است.

Z.ai معتقد است ابزارهای پیشرفته دفاع سایبری نباید تنها در اختیار تعداد محدودی از شرکت‌های ارائه‌دهنده مدل‌های بسته قرار داشته باشند. این شرکت قصد دارد در همین راستا برنامه‌ای با عنوان Open Source Shield راه‌اندازی کند.

در این برنامه قرار است برخی پروژه‌های متن‌باز مورد بررسی امنیتی قرار بگیرند و دسترسی به مدل برای فعالیت‌های دفاعی در اختیار توسعه‌دهندگان قرار گیرد. Z.ai همچنین می‌خواهد قابلیت‌های بررسی کد را به محصول برنامه‌نویسی ZCode اضافه کند.

06

از 07

GLM-5.3 چگونه به قابلیت‌های امنیت سایبری رسید؟

GLM-5.3 برخلاف برخی سیستم‌های تخصصی امنیت سایبری، از ابتدا به‌عنوان یک ابزار اختصاصی برای امنیت طراحی نشده است. Z.ai می‌گوید این محصول در اصل یک مدل عمومی برنامه‌نویسی است که قابلیت‌های امنیتی آن از طریق آموزش بیشتر، پساآموزش و یادگیری تقویتی توسعه پیدا کرده‌اند.

این شرکت اعلام کرده GLM-5.3 از همان مدل پایه GLM-5.2 استفاده می‌کند، اما برای آموزش نسخه جدید از محیط‌های کاری طولانی‌تر و متنوع‌تری بهره گرفته است.

نسخه قبلی یعنی GLM-5.2 نیز در ماه‌های اخیر میان برخی توسعه‌دهندگان خارج از چین مورد توجه قرار گرفته بود. عملکرد آن در برنامه‌نویسی و اجرای وظایف چندمرحله‌ای باعث شد برخی کاربران و تحلیلگران آن را از نظر قابلیت به مدل‌های پیشرفته آمریکایی نزدیک بدانند؛ درحالی‌که هزینه استفاده از آن پایین‌تر بود.

07

از 07

آینده مدل‌های هوش مصنوعی در امنیت سایبری

عرضه GLM-5.3 نشان می‌دهد رقابت هوش مصنوعی تنها به چت‌بات‌ها، تولید محتوا یا برنامه‌نویسی محدود نیست و امنیت سایبری نیز به یکی از میدان‌های اصلی رقابت مدل‌های پیشرفته تبدیل شده است.

عملکرد این مدل در شناسایی آسیب‌پذیری‌ها نشان می‌دهد مدل‌های چینی در برخی وظایف تخصصی می‌توانند به محصولات پیشرفته شرکت‌های آمریکایی نزدیک شوند. با این حال، نتایج مربوط به توسعه حملات نشان می‌دهد هنوز در تمام مراحل عملکرد یکسانی ندارند.

از سوی دیگر، تصمیم Z.ai برای انتشار تدریجی GLM-5.3 و محدود کردن برخی قابلیت‌های حساس، نشان‌دهنده اهمیت روزافزون مسئله ایمنی مدل‌های متن‌باز است. اینکه این محدودیت‌ها پس از انتشار عمومی تا چه اندازه مؤثر باقی بمانند، احتمالاً یکی از مهم‌ترین پرسش‌ها درباره آینده این مدل خواهد بود.

جمع‌بندی

مدل GLM-5.3 شرکت Z.ai با عملکرد نزدیک به Mythos 5 در شناسایی آسیب‌پذیری‌های نرم‌افزاری، نشان داده است که مدل‌های چینی می‌توانند در برخی حوزه‌های تخصصی امنیت سایبری به رقبای آمریکایی نزدیک شوند. با این حال، فاصله GLM-5.3 در تبدیل آسیب‌پذیری‌ها به حملات عملی همچنان قابل توجه است.

Z.ai قرار است مدل جدید خود را پس از یک دوره بررسی امنیتی حدود دو هفته‌ای منتشر کند و برای قابلیت‌های حساس‌تر نیز دسترسی تأییدشده در نظر بگیرد. این رویکرد نشان می‌دهد رقابت میان مدل‌های متن‌باز و بسته حالا با یک پرسش مهم‌تر همراه شده است: چطور می‌توان مدل‌های قدرتمند هوش مصنوعی را هم در اختیار مدافعان امنیت قرار داد و هم خطر سوءاستفاده از آن‌ها را کنترل کرد؟