شرکت مایکروسافت در حال ارزیابی مدل متن‌باز قدرتمند چینی Kimi K3 برای خدمات ابری آزور و کوپایلت است تا هزینه‌های سنگین استنتاج هوش مصنوعی خود را به شکل چشمگیری کاهش دهد.
به گزارش سرویس هوش مصنوعی تکناک، از زمانی که مایکروسافت مدل قیمت‌گذاری سرویس کوپایلت کوورک را به ساختاری مبتنی‌بر میزان مصرف تغییر داد، که در آن هزینه بر اساس تعداد توکن‌های مصرفی پرداخت می‌شود، توجه ویژه‌ای به مدل‌های متن‌باز چینی نشان داده است؛ به‌خصوص با در نظر گرفتن این موضوع که چنین مدل‌هایی هزینه‌های استنتاج به‌مراتب کمتری به همراه دارند.
اکنون گزارش جدیدی نشان می‌دهد که مایکروسافت ممکن است مدل هوش مصنوعی Kimi K3 شرکت Moonshot را به کوپایلت اضافه کند؛ اقدامی که می‌تواند خشم دولت ترامپ را نیز در پی داشته باشد.
شرکت مایکروسافت در تلاش است تا مدل Kimi K3 را به خدمات ابری آزور اضافه کند و مهندسان این شرکت همچنان در حال ارزیابی این مدل برای استفاده در ساختار کوپایلت هستند.
بر اساس گزارش رسانه اینفورمیشن، مایکروسافت هم‌اکنون کار روی ارائه دسترسی به مدل چینی Kimi K3 از طریق خدمات ابری آزور را آغاز کرده است. علاوه بر این، غول ردموند کارایی این مدل را برای به‌کارگیری در محیط کوپایلت نیز بررسی می‌کند.
این اقدام در پی گزارش ژوئن رسانه اکسیوس صورت می‌گیرد که نشان می‌داد مایکروسافت ممکن است مدل وی۴ شرکت دیپ‌سیک یا مدل مشابه دیگری را انتخاب کند و آن را روی زیرساخت‌های خود میزبانی نماید تا توان پردازشی کوپایلت کوورک را تامین کند؛ سرویسی که عملکردهای سازمانی کوپایلت را با مدل‌های پیشرفته هوش مصنوعی شرکت‌های OpenAI و آنتروپیک ترکیب می‌کند تا جریان‌های کاری مبتنی‌بر عامل‌های هوش مصنوعی را بسیار آسان‌تر کند.
همان‌طور که در گزارش‌های اخیر توضیح داده شده است، Moonshot به تازگی از مدل کاملا جدید و متن‌باز خود به نام Kimi K3 پرده‌برداری کرده است که ۲.۸ تریلیون پارامتر دارد.
این مدل چندوجهی است، پنجره زمینه‌ای در حدود ۱ میلیون توکن دارد و عملکردی رقابتی و سریع‌تر از بسیاری از همتایان خود ارائه می‌دهد.
مدل‌های هوش مصنوعی و هزینه آنها به ازای هر تسک شاخص عبارت‌است‌از:
- کلود فیبل ۵: ۲.۷۵ دلار
- کلود سونت ۵: ۲.۲۹ دلار
- کلود اوپوس ۴.۸: ۱.۸۰ دلار
- میسترال مدیوم ۳.۵: ۱.۲۰ دلار
- کیون ۳.۷ مکس: ۱.۰۶ دلار
- جی‌پی‌تی ۵.۵: ۱.۰۳ دلار
- جمنای ۳.۵ فلش: ۰.۵۹ دلار
- جی‌ال‌ام ۵.۲: ۰.۴۸ دلار
- جی‌پی‌تی ۵.۴ مینی: ۰.۴۸ دلار
- کیون ۳.۵ ۳۹۷ بی: ۰.۳۳ دلار
با وجود این، هزینه‌های استنتاج Kimi K3 برای یک مدل متن‌باز چندان ارزان نیست و میانگین هزینه آن به ازای هر تسک شاخص هوش، ۰.۹۴ دلار برآورد می‌شود. این رقم در مقایسه با هزینه ۰.۵۵ دلاری برای جی‌پی‌تی ۵.۶ ترا و ۱.۰۴ دلاری برای جی‌پی‌تی ۵.۶ سول است، آن هم در شرایطی که حداکثر توان استدلال فعال باشد. علاوه بر این، Kimi K3 تمایل بیشتری به استدلال طولانی دارد که این موضوع توکن‌های بیشتری را مصرف می‌کند.
با وجود این، همان‌طور که پیش‌تر در مطلبی اختصاصی تشریح شد، مدل چینی Kimi K3 به دلیل کاهش چشمگیر حافظه موقت کلید-مقدار و بهینه‌سازی‌های داخلی برای مصرف حافظه به ازای هر توکن، کارایی بسیار بالایی برای اجرا روی سخت‌افزارهای مقیاس دیتاسنتر دارد. این بهینه‌سازی از طریق توزیع ۸۹۶ کارشناس مدل روی تعداد زیادی از پردازنده‌های گرافیکی حاصل شده است.
در واقع، برآوردهای مایکروسافت نشان می‌دهد که با انتقال کوپایلت از مدل‌های OpenAI و آنتروپیک به سمت Kimi K3، می‌توان تا ۶۰۰ میلیون دلار در هزینه‌های استنتاج صرفه‌جویی کرد.
البته چنین اقدامی بعید است به مذاق دولت ترامپ خوش بیاید که تلاش می‌کند مانع از به‌کارگیری مدل‌های متن‌باز چینی شود. با وجود این، با استعفای دومین رئیس امنیت هوش مصنوعی ایالات متحده در حدود سه ماه گذشته، استراتژی کلی این دولت در حوزه هوش مصنوعی در حال حاضر با آشفتگی روبه‌رو است.
بر اساس گزارش Wccftech، دولت ترامپ در حال بررسی یک فرمان اجرایی و روش‌های دیگر برای ممنوعیت مدل‌های متن‌باز چینی در ایالات متحده است. Kimi K3 دوباره به این بحث‌ها دامن زده است. گزارش امروز صبح از اکسیوس نشان می‌دهد وزارت بازرگانی نیز در حال بررسی افزودن آزمایشگاه‌های هوش مصنوعی چین به لیست سیاه تجاری است.
