توسعه سامانه‌های دفاعی چین با کمک هوش مصنوعی آمریکا

پژوهشگران وابسته به نهادهای نظامی چین از خروجی مدل‌های پیشرفته هوش مصنوعی آمریکا از جمله مدل‌های ساخته‌شده توسط OpenAI و آنتروپیک، برای آموزش مدل‌های بومی استفاده کرده‌اند.

به‌ گزارش سرویس هوش مصنوعی تک‌ناک، این اقدام با هدف تقویت توانمندی‌های دفاعی چین انجام شده است. این یافته‌ها که با بررسی بیش از ۸۰ مقاله دانشگاهی و ثبت اختراع به دست آمده است، تصویر کم‌سابقه‌ای از نحوه بهره‌گیری نهادهای نظامی و امنیتی چین از پیشرفته‌ترین مدل‌های هوش مصنوعی آمریکا ارائه می‌دهد. بر اساس این اسناد، این نهادها از مدل‌های آمریکایی به‌ عنوان میانبری برای توسعه سامانه‌های تخصصی خود استفاده کرده‌اند؛ آن هم در شرایطی که ایالات متحده با اعمال محدودیت بر صادرات تراشه‌های پیشرفته و سایر فناوری‌های راهبردی، در تلاش است دسترسی پکن به این فناوری‌ها را محدود کند.

اسناد مورد بررسی نشان می‌دهد پژوهشگران چینی به‌ طور گسترده از تکنیکی موسوم به «تقطیر مدل» بهره گرفته‌اند؛ روشی که در آن خروجی یک مدل قدرتمند برای آموزش مدل‌های کوچک‌تر و تخصصی‌تر استفاده می‌شود تا این مدل‌ها بدون نیاز به زیرساخت پردازشی عظیم مورد نیاز برای توسعه مدل‌های مرزی، به‌ صورت محلی استقرار یابند. بررسی رویترز که شامل پژوهش‌های گردآوری‌شده توسط بنیاد جیمزتاون مستقر در واشنگتن نیز بود، نشان می‌دهد تقطیر مدل به‌ طور گسترده توسط پژوهشگران وابسته به ارتش آزادی‌بخش خلق چین و دیگر نهادهای نظامی به کار گرفته شده است. این مقالات نشان می‌دهند موسسات دفاعی چین، مدل‌های پیشرفته هوش مصنوعی آمریکا را هم منبعی برای دستیابی به دانش فنی و هم ابزاری برای کاهش شکاف فناوری با رقبای آمریکایی تلقی می‌کنند.

بیشتر بخوانید: چت‌بات ChatGPT به مرز یک میلیارد کاربر فعال هفتگی رسید

در این میان، محل اختلاف، اصل فناوری تقطیر مدل نیست، بلکه ادعای استخراج غیرمجاز قابلیت‌های مدل‌های آمریکایی است، چرا که تقطیر مدل به‌ عنوان یکی از روش‌های متداول صنعت هوش مصنوعی شناخته می‌شود. این موضوع در آستانه مذاکرات آمریکا و چین درباره حکمرانی و ایمنی هوش مصنوعی به یکی از مهم‌ترین نقاط تنش میان دو کشور تبدیل شده است. مقام‌های آمریکایی برخی نهادهای چینی را متهم کرده‌اند که از طریق تقطیر مدل، قابلیت‌های مدل‌های آمریکایی را استخراج و با دور زدن محدودیت‌های صادراتی، حقوق مالکیت فکری را نیز نقض می‌کنند. پکن این اتهام‌ها را رد کرده است و ضمن متهم کردن واشنگتن به دنبال کردن سیاست «سلطه‌طلبی در هوش مصنوعی»، مدعی شده است شرکت‌های آمریکایی نیز از شیوه‌های مشابه استفاده کرده‌اند.

برای مطالعه بیشتر: هوش مصنوعی سرکش OpenAI یک شرکت دیگر را هدف گرفت

توسعه‌دهندگان چینی نیز وابستگی پیشرفت‌های خود به مدل‌های خارجی را انکار کرده‌اند. استارت‌آپ چینی Moonshot هفته گذشته ادعای دولت ترامپ مبنی بر توسعه مدل Kimi K3 از طریق تقطیر مدل را رد و اعلام کرد که این مدل حاصل نوآوری‌های اختصاصی این شرکت است. سانی چونگ، پژوهشگر بنیاد جیمزتاون که بیش از ۶۰ مقاله را تحلیل کرده، گفته است که دانشمندان نظامی چین به‌ صورت نظام‌مند در حال استخراج فرایندهای استدلالی مدل‌های غربی هستند تا آنها را برای کاربردهایی نظیر سامانه‌های نظارتی، جنگ سایبری و تصمیم‌گیری تاکتیکی بومی‌سازی کنند. به گفته او، آموزش پاسخ صحیح به یک مدل ساده‌تر از انتقال سازوکار استدلال آن است و این مقالات نشان می‌دهد پژوهشگران وابسته به ارتش چین در تلاش‌ هستند این قابلیت ارزشمند و اختصاصی را از مدل‌های غربی به سامانه‌های کوچک‌تر و قابل‌ کنترل داخلی منتقل کنند.

رویترز علاوه بر راستی‌آزمایی این پژوهش‌ها، ۲۴ نمونه مطالعاتی دیگر مرتبط با نهادهای نظامی را نیز شناسایی کرده است. یکی از مقالات منتشرشده در سال گذشته توسط پژوهشگران واحد ۹۶۹۴۱ ارتش آزادی‌بخش خلق چین، از به‌کارگیری GPT-3.5 شرکت OpenAI برای پردازش کدهای حساس نظامی خبر می‌دهد. طبق این مقاله، از آنجا که مدل‌های شخص ثالث برای پردازش اطلاعات طبقه‌بندی‌شده مناسب نبودند، پژوهشگران ابتدا از GPT-3.5 برای خلاصه‌سازی کدهای نرم‌افزاری استفاده کردند و سپس بر اساس این خلاصه‌ها یک مدل بومی آموزش دادند تا به‌ طور کامل در شبکه‌های نظامی چین اجرا شود.

01

از 02

موارد استفاده از مدل‌های هوش مصنوعی آمریکا

بررسی رویترز و بنیاد جیمزتاون نشان می‌دهد کاربرد تقطیر مدل در چین از سامانه‌های پایش محتوا تا تجهیزات نظامی گسترش یافته است. پژوهشگران دانشگاه نورث چین، که ارتباط نزدیکی با صنایع دفاعی این کشور دارد، از مدل Claude 3 Haiku شرکت آنتروپیک برای تولید داده‌های آموزشی مصنوعی به‌ منظور توسعه یک مدل دسته‌بندی متن جهت نظارت بر شبکه‌های اجتماعی و مدیریت محتوا استفاده کرده‌اند. آنتروپیک اعلام کرده است که دسترسی تجاری به Claude را در چین یا برای شرکت‌های تحت کنترل دولت پکن ارائه نمی‌دهد و با استفاده از سامانه‌های پایش، موارد نقض سیاست‌های خود را شناسایی می‌کند.

خبر پیشنهادی: واشنگتن تحریم مون‌شات را روی میز گذاشت

همچنین این شرکت هشدار داده که مدل‌های تقطیرشده ممکن است بخشی از سازوکارهای ایمنی مدل اصلی را از دست بدهند و در نتیجه قابلیت‌های حساس به مدل‌هایی خارج از کنترل آنتروپیک منتقل شود. مقاله‌ای متعلق به سال ۲۰۲۴ از دانشگاه ملی فناوری دفاعی ارتش چین نیز توضیح می‌دهد که چگونه با استفاده از تقطیر مدل، یک مدل پردازش تصویر برای اجرا روی پهپادها کوچک‌سازی شده است تا این سامانه‌ها حتی در صورت قطع ارتباط، بتوانند تصاویر زنده را تحلیل کنند و در ناوبری و هدف‌گیری بلادرنگ نقش ایفا نمایند. مطالعه دیگری که اوایل امسال منتشر شد نیز نشان می‌دهد پژوهشگران آکادمی علوم نظامی چین از همین فناوری برای اجرای یک مدل تشخیص هدف روی سخت‌افزارهای تاکتیکی در عملیات شبیه‌سازی‌شده دریایی با حضور پهپادها، شناورها و زیردریایی‌های بدون سرنشین استفاده کرده‌اند.

02

از 02

مزایا و محدودیت‌های تکنیک تقطیر مدل چین

چین در حالی تقطیر مدل را به یکی از ابزارهای اصلی رقابت با آمریکا در توسعه هوش مصنوعی پیشرفته تبدیل کرده است که محدودیت‌های صادراتی واشنگتن بر تراشه‌های رده‌بالا، دسترسی این کشور را به منابع پردازشی پیشرفته کاهش داده است. در همین راستا، دولت مرکزی و دولت‌های محلی چین با اختصاص یارانه و بودجه‌های پژوهشی، از فناوری‌هایی مانند سبک‌سازی مدل حمایت می‌کنند تا امکان اجرای مدل‌های هوش مصنوعی روی پهپادها، ماهواره‌ها و سایر تجهیزات دارای توان پردازشی محدود فراهم شود. با وجود این، کارشناسان تاکید کرده‌اند که تقطیر مدل محدودیت‌های قابل‌ توجهی دارد. هم‌زمان با کاهش فاصله مدل‌های هوش مصنوعی چین با نمونه‌های آمریکایی، پژوهشگران نظامی این کشور نیز تقطیر مدل را به‌ عنوان یک تهدید بالقوه امنیتی بررسی می‌کنند.

پژوهشگران دانشگاه مهندسی ارتش چین در مقاله‌ای که ژانویه امسال منتشر شد، نسبت به تهدید «تقطیر بدون داده» هشدار داده‌اند؛ روشی که امکان بازمهندسی قابلیت‌های یک مدل را بدون دسترسی مستقیم به پارامترهای اصلی آن فراهم می‌کند. آنها برای مقابله با این آسیب‌پذیری، سازوکارهای دفاعی پیشنهاد کرده‌اند که اطلاعات منطقی نهفته در خروجی‌های عمومی مدل را پنهان می‌کند. در عین حال، مدل‌های تقطیرشده تنها بخشی از قابلیت‌های مدل مرجع را منتقل می‌کنند و قادر به بازتولید کامل سطح هوشمندی مدل‌های مرزی نیستند. ترور کوورکو، هم‌بنیان‌گذار شرکت داده‌های هوش مصنوعی Sapien نیز معتقد است مدل‌های تقطیرشده همچنان از مدل‌های مرجع خود ضعیف‌تر هستند و این فناوری را باید ابزاری برای انتقال گزینشی قابلیت‌ها به سامانه‌ای ارزان‌تر و قابل‌ کنترل در داخل کشور دانست، که مسیری برای دستیابی به استقلال کامل از پیشرفته‌ترین مدل‌های هوش مصنوعی جهان نیست.