مایکروسافت با آوردن APIهای مدل زبانی محلی به رایانه‌های مجهز به RTX 30 و بالاتر، یکی از مهم‌ترین مزیت‌های انحصاری Copilot+ را کمرنگ‌تر کرد.
به گزارش سرویس هوش مصنوعی تکناک، مایکروسافت اعلام کرده است که اجرای APIهای محلی مدل زبانی در ویندوز ۱۱ روی PCهای غیر Copilot+ نیز ممکن خواهد شد، به شرط آن‌که سیستم از سخت‌افزار جدید مورد نیاز برخوردار باشد: یک کارت گرافیک RTX 30 یا جدیدتر با ۶ گیگابایت حافظه VRAM.
این تغییر، تحول مهمی به شمار می‌رود، چون نشان می‌دهد برتری‌های PCهای Copilot+ در حال کم‌رنگ شدن است و بعید نیست مایکروسافت در آینده حتی الزام وجود NPU را به‌طور کامل کنار بگذارد.
PCهای Copilot+ به‌صورت رسمی در ۱۸ ژوئن ۲۰۲۴ معرفی شدند و از آن زمان به موتور محرک فروش بسیاری از تولیدکنندگان PC تبدیل شده‌اند. البته این موضوع لزوما به دلیل «Copilot» یا «NPU» نبوده است. بخش زیادی از ماجرا به این برمی‌گردد که PCهای جدید اکنون با عنوان «Copilot+ PC» به فروش می‌رسند و در نتیجه حتی خرید یک لپ‌تاپ معمولی هم به‌عنوان نشانه‌ای از رشد بازار PCهای هوش مصنوعی ثبت می‌شود.
برای آن‌که یک سیستم بتواند معیارهای «Copilot+ PC» را داشته باشد، باید به ۱۶ گیگابایت رم، SSD و دست‌کم یک NPU با توان ۴۰ TOPS مجهز باشد. برای کسانی که با این اصطلاح آشنا نیستند، NPU یا واحد پردازش عصبی تراشه‌ای است که برای اجرای مدل‌های هوش مصنوعی طراحی شده و تمرکز آن بیشتر بر بهره‌وری است تا توان خام. در مقابل، GPU پردازنده‌ای قدرتمند برای اجرای وظایف سنگین و پردازش‌های موازی گسترده محسوب می‌شود.
مایکروسافت PCهای Copilot+ را تنها راه اجرای هوش مصنوعی محلی معرفی کرده بود، اما این محدودیت هرگز از نظر طراحی ذاتی نبود. یک GPU همواره به دلیل توان خام بالاتر، می‌تواند مدل‌های هوش مصنوعی را بسیار بهتر از یک NPU اجرا کند. با این حال، مایکروسافت نمی‌خواست جذابیت PCهای Copilot+ کاهش پیدا کند، بنابراین قابلیت‌های هوش مصنوعی محلی مانند Windows Recall و Click to Do را به سیستم‌های مجهز به NPU محدود کرده بود.
این یعنی بسیاری از PCهای مبتنی بر GPU که از توان کافی برخوردار هستند، در حال حاضر از قابلیت‌های بومی هوش مصنوعی ویندوز ۱۱ مانند تولید متن، تبدیل متن به تصویر، تولید تصویر، Windows Recall و سایر قابلیت‌ها پشتیبانی نمی‌کنند، اما این وضعیت ممکن است به‌زودی تغییر کند.
مایکروسافت در پستی در GitHub که نخستین بار توسط Windows Latest شناسایی شد، بی‌سروصدا تایید کرده است که PCهای Copilot+ یکی از مهم‌ترین مزیت‌های خود را از دست می‌دهند، زیرا هوش مصنوعی محلی حالا به کارت‌های گرافیک RTX نیز می‌آید، به شرط آن‌که دو پیش‌نیاز اصلی رعایت شود:
- داشتن کارت گرافیک RTX 30 یا جدیدتر
- در اختیار داشتن GPU پشتیبانی‌شده با ۶ گیگابایت یا بیشتر حافظه VRAM
بر اساس اسناد به‌روزشده، توسعه‌دهندگان اکنون می‌توانند APIهای محلی مدل زبانی را روی PCهای غیر Copilot+ نیز با تکیه بر GPU اجرا کنند.
مایکروسافت در این باره نوشته است: «APIهای مدل زبانی روی GPU [آزمایشی]. APIهای مدل زبانی اکنون روی PCهای غیر Copilot+ مجهز به GPU پشتیبانی‌شده نیز اجرا می‌شوند و قابلیت‌های مدل زبانی محلی را به طیف گسترده‌تری از دستگاه‌های ویندوز ۱۱ می‌آورند.» این شرکت همچنین اشاره کرده است: «سخت‌افزارهای پشتیبانی‌شده شامل NVIDIA GeForce RTX سری 30 و جدیدتر با ۶ گیگابایت یا بیشتر VRAM هستند.»
این تغییر عملا دامنه دستگاه‌های ویندوز ۱۱ که می‌توانند مدل‌های زبانی محلی را اجرا کنند، فراتر از PCهای جدید Copilot+ مجهز به NPU گسترش می‌دهد.
البته API مدل زبانی چیزی نیست که کاربران عادی به‌طور معمول بتوانند روی PC خود اجرا کنند، مگر آن‌که توانایی ساخت اپلیکیشن و فراخوانی API را داشته باشند. با این حال، همین تغییر را می‌توان آغاز پایان قابلیت‌های انحصاری Copilot+ PC دانست.
برای بررسی این‌که آزاد شدن این API برای تمام PCهای مجهز به GPUهای سازگار چه تاثیری بر یکپارچه‌سازی هوش مصنوعی در ویندوز خواهد گذاشت، اسناد رسمی مایکروسافت مرور شده و جزئیات جالبی به چشم می‌خورند.
APIهای مدل زبانی به اپلیکیشن‌های ویندوزی اجازه می‌دهند به‌طور مستقیم به قابلیت‌های هوش مصنوعی روی خود PC دسترسی پیدا کنند. این APIها توسط یک مدل زبانی کوچک به نام Phi Silica تغذیه می‌شوند. پیش‌تر نیز اشاره‌هایی به Phi Silica در نسخه ویندوز مرورگر Microsoft Edge دیده شده بود؛ از جمله در قابلیت‌هایی مانند «Rewrite using AI».
PCهای ویندوزی به‌صورت پیش‌فرض مدل‌های هوش مصنوعی را در اختیار ندارند، مگر آن‌که کاربر یک Copilot+ PC خریداری کرده باشد. این یعنی اگر اپلیکیشن جدیدی از Local Model API استفاده کند، می‌تواند از Windows Update بخواهد مدل Phi Silica را روی PC دانلود کند و در صورت پشتیبانی سخت‌افزار، آن را به‌صورت محلی با استفاده از GPU اجرا کند. در حال حاضر، یک اپلیکیشن می‌تواند به قابلیت‌های هوش مصنوعی زیر در ویندوز دسترسی داشته باشد:
- قالب‌بندی متنی مبتنی بر هوش مصنوعی در اپلیکیشن‌ها با استفاده از APIهای Windows.AI.Text
- خلاصه‌سازی متن
- بازنویسی متن
- تبدیل متن به جدول
- تولید پرامپت عمومی
به بیان دیگر، برخی قابلیت‌های شبیه ChatGPT به‌صورت بومی در اپلیکیشن‌های ویندوز روی PCهای مجهز به انویدیا قابل استفاده خواهند بود و همه چیز به‌صورت محلی اجرا می‌شود؛ موضوعی که در مقایسه با مدل‌های ابری مانند Copilot یا ChatGPT، حریم خصوصی را به‌طور کامل حفظ می‌کند.
در حال حاضر، طبق گزارش ویندوز لیتست، نشانه‌ای وجود ندارد که مایکروسافت بخواهد قابلیت‌هایی مانند Windows Recall، Click to Do و ویژگی‌های هوش مصنوعی در MS Paint را به PCهای فاقد تراشه NPU بیاورد. فعلا این گسترش قابلیت‌های هوش مصنوعی محلی تنها به یک API محدود شده که بیشتر برای امکانات متنی و قابلیت‌های مرتبط با پرامپت‌های عمومی به کار می‌رود.
