فهرست مطالب
سیستم‌عامل جدید Kora با هدف اجرای محلی هوش مصنوعی و تقسیم وظایف پردازشی میان CPU، GPU، NPU و کامپیوترهای متصل به شبکه معرفی شد.
به گزارش سرویس سیستم عامل کامپیوتر تکناک، کرت مک‌مستر (Kirt McMaster)، یکی از بنیان‌گذاران Cyanogen، به همراه تیمی از توسعه‌دهندگان از سیستم‌عامل جدید Kora رونمایی کرده است. این سیستم‌عامل مبتنی بر لینوکس با تمرکز بر هوش مصنوعی توسعه یافته و می‌تواند پردازش مدل‌های مختلف را میان اجزای سخت‌افزاری کامپیوتر تقسیم کند. همچنین امکان استفاده از توان پردازشی کامپیوترهای دیگر در شبکه محلی را فراهم می‌کند.
به گزارش تامز هاردور، Kora نخستین محصول شرکت Kora Systems است که پیش‌تر با نام Playtron فعالیت می‌کرد. توسعه‌دهندگان این محصول شعار «سیستم‌عامل هوشمندی» را برای معرفی آن انتخاب کرده‌اند و قصد دارند نسخه عمومی‌اش را در سال ۲۰۲۷ منتشر کنند.
این سیستم‌عامل از فناوری اختصاصی Cortex بهره می‌برد که یک موتور استنتاج ترکیبی برای اجرای مدل‌های هوش مصنوعی است. Cortex با هدف استفاده بهینه از منابع سخت‌افزاری طراحی شده و برخلاف بسیاری از پروژه‌های مرتبط با لینوکس، متن‌باز نیست.
توسعه‌دهندگان اعلام کرده‌اند که Kora از هسته سیستم‌عامل تا محیط کاربری با محوریت هوش مصنوعی طراحی شده است. این سیستم‌عامل به‌طور پیش‌فرض مدل‌های هوش مصنوعی را روی دستگاه کاربر اجرا می‌کند و در صورت نیاز از مدل‌های ابری کمک می‌گیرد.
یکی از قابلیت‌های مهم Kora، تقسیم وظایف هوش مصنوعی میان پردازنده مرکزی، پردازنده گرافیکی و واحد پردازش عصبی است. این ویژگی به سیستم‌عامل اجازه می‌دهد منابع پردازشی موجود را متناسب با نیاز هر مدل به کار بگیرد.
پشتیبانی Kora از پردازنده‌های کوالکام، اینتل و AMD
درحال‌حاضر، پشتیبانی کامل Kora از واحد پردازش عصبی Hexagon در تراشه Snapdragon X2 Elite شرکت کوالکام تأیید شده است. مک‌مستر اعلام کرده که این پردازنده تنها NPU پشتیبانی‌شده در نسخه فعلی سیستم‌عامل محسوب می‌شود.
شرکت‌های سازنده پردازنده‌های عصبی معمولاً از محیط‌های نرم‌افزاری متفاوتی استفاده می‌کنند. کوالکام چارچوب QAIRT/QNN، اینتل فناوری OpenVINO و AMD نرم‌افزار Ryzen AI را برای اجرای پردازش‌های هوش مصنوعی ارائه می‌دهند.
این تفاوت‌ها باعث می‌شود اجرای یک مدل هوش مصنوعی روی سخت‌افزار شرکت‌های مختلف به سازگاری نرم‌افزاری جداگانه نیاز داشته باشد.
مک‌مستر درباره پشتیبانی از محصولات اینتل اعلام کرده است که مذاکرات برای افزودن واحدهای NPU این شرکت ادامه دارد. بااین‌حال، هنوز زمان دقیق پشتیبانی و محیط اجرایی مورد استفاده مشخص نشده است.
وضعیت پردازنده‌های AMD متفاوت است. مک‌مستر احتمال اجرای مدل‌های زبانی بزرگ روی واحد پردازش عصبی تراشه‌های Ryzen AI در Kora را پایین می‌داند.
به گفته او، این سیستم‌عامل احتمالاً از NPUهای شرکت AMD برای اجرای مدل‌های تشخیص گفتار و تولید امبدینگ از طریق ONNX استفاده خواهد کرد. امبدینگ روشی برای تبدیل اطلاعات به نمایش عددی است که کاربرد گسترده‌ای در پردازش زبان طبیعی دارد.
در مقابل، Kora برای استفاده از NPU کوالکام به بک‌اند Hexagon در پروژه متن‌باز llama.cpp و درایور FastRPC متکی است.
این روش نشان می‌دهد که سیستم‌عامل جدید احتمالاً بدون استفاده مستقیم از محیط اختصاصی QAIRT/QNN کوالکام، از طریق ابزارهای متن‌باز به واحد پردازش عصبی دسترسی پیدا می‌کند.
البته اجرای مدل‌های زبانی روی NPUهای AMD در لینوکس امکان‌پذیر است. مجموعه نرم‌افزاری Lemonade 10.0 با استفاده از FastFlowLM چنین قابلیتی را ارائه می‌دهد، اما توسعه‌دهندگان Kora فعلاً مسیر دیگری را انتخاب کرده‌اند.
بیشتر بخوانید: کاربران لینوکس هم زیر چتر امنیتی مایکروسافت دیفندر قرار گرفتند
تقسیم لایه‌های مدل هوش مصنوعی میان پردازنده‌های مختلف
یکی از بخش‌های اصلی معماری Kora، موتور استنتاج Lemma است که در فناوری Cortex قرار دارد. این موتور می‌تواند لایه‌های مختلف یک مدل هوش مصنوعی را متناسب با نیاز پردازشی میان سخت‌افزارهای مختلف تقسیم کند.
برای مثال، این معماری امکان استفاده از منابع پردازشی چندگانه را فراهم می‌کند و اجرای مدل را به یک نوع پردازنده محدود نمی‌سازد. البته شرکت سازنده هنوز جزئیات کامل عملکرد این قابلیت در پیکربندی‌های سخت‌افزاری مختلف را منتشر نکرده است.
مک‌مستر اعلام کرده است که Kora عمدتاً از قالب GGUF برای مدل‌های هوش مصنوعی استفاده می‌کند. این قالب در پروژه llama.cpp کاربرد دارد و برای ذخیره و اجرای مدل‌های زبانی به کار می‌رود.
موتور Lemma نیز بر پایه چند پروژه نرم‌افزاری شناخته‌شده توسعه یافته است. این مجموعه شامل llama.cpp برای مدل‌های زبانی، whisper.cpp برای پردازش گفتار، stable-diffusion.cpp برای تولید تصویر و ONNX برای اجرای مدل‌های مختلف می‌شود.
به گفته مک‌مستر، انتخاب محیط اجرایی به نیازهای هر مدل بستگی دارد. توسعه‌دهندگان همچنین قصد دارند در آینده از محیط‌های اجرایی بیشتری پشتیبانی کنند.
پروژه llama.cpp اکنون بک‌اند Hexagon را برای پردازنده‌های اسنپدراگون ارائه می‌دهد. پشتیبانی از OpenVINO برای پردازنده‌های مرکزی، گرافیکی و عصبی اینتل نیز در حال توسعه است.
بااین‌حال، این پروژه هنوز بک‌اند اختصاصی برای NPUهای شرکت AMD ندارد. همین محدودیت می‌تواند استفاده Kora از ONNX برای پردازنده‌های AMD را توضیح دهد.
تامز هاردور در آزمایش‌های پیشین خود روی ویندوز نیز تفاوت عملکرد این پلتفرم‌ها را مشاهده کرده بود. پردازنده اسنپدراگون از طریق QNN در محیط ONNX Runtime به NPU دسترسی داشت، اما پردازش‌های اینتل با استفاده از افزونه IPEX روی GPU انجام می‌شد، زیرا پردازنده گرافیکی سریع‌تر بود.
بیشتر بخوانید: لینوکس ۷.۴ روی مک‌بوک نئو و تراشه M4 اجرا می‌شود
اجرای مدل ۲۶ میلیارد پارامتری با سرعت ۲۵ توکن بر ثانیه
شرکت Kora Systems برای نمایش توانایی سیستم‌عامل خود از مدل هوش مصنوعی Gemma 4 26B استفاده کرده است. این مدل که گوگل آن را با نام Gemma 4 26B A4B معرفی می‌کند، دارای ۲۶ میلیارد پارامتر است.
مدل مذکور از معماری ترکیب متخصصان (Mixture of Experts) بهره می‌برد. در این معماری، برای پردازش هر توکن تنها بخشی از پارامترهای مدل فعال می‌شوند.
در Gemma 4 26B حدود چهار میلیارد پارامتر برای پردازش هر توکن فعال می‌شود. بااین‌حال، تمام وزن‌های مدل باید در حافظه بارگذاری شوند.
براساس برآورد گوگل، بارگذاری وزن‌های این مدل با کوانتیزه‌سازی چهار بیتی Q4_0 به حدود ۱۴٫۴ گیگابایت حافظه نیاز دارد. این مقدار بدون محاسبه حافظه موردنیاز پنجره زمینه است.
همچنین حجم فایل Q4_K_M مورد استفاده Kora، طبق اطلاعات منابع مستقل، حدود ۱۶ تا ۱۷ گیگابایت برآورد می‌شود.
مک‌مستر اعلام کرده است که تراشه Snapdragon X2 Elite هنگام اجرای این مدل به سرعت تولید ۲۵ توکن بر ثانیه دست یافته است.
سرعت پردازش اولیه ورودی نیز به ۵۵۰ توکن بر ثانیه رسیده است. این دو شاخص به‌ترتیب سرعت تولید پاسخ و سرعت آماده‌سازی اطلاعات ورودی مدل را نشان می‌دهند.
به گفته مک‌مستر، این عملکرد کاملاً روی واحد پردازش عصبی Hexagon و با پنجره زمینه ۳۲ هزار توکنی به دست آمده است.
بااین‌حال، شرکت سازنده مقدار حافظه رم دستگاه آزمایشی و نسخه دقیق تراشه Snapdragon X2 Elite را اعلام نکرده است. بنابراین، هنوز امکان مقایسه دقیق این نتایج با سایر پیکربندی‌های سخت‌افزاری وجود ندارد.
همچنین انتظار می‌رود مدل‌های متراکم که از تمام پارامترهای خود در پردازش استفاده می‌کنند، عملکرد کندتری نسبت به مدل آزمایش‌شده داشته باشند.
بیشتر بخوانید: لینوکس ۷.۳ با تمرکز بر اصلاحات گسترده فایل‌سیستم منتشر شد
زمان عرضه Kora و حافظه موردنیاز برای نصب
مک‌مستر استفاده از ۶۴ گیگابایت حافظه رم را برای اجرای Kora توصیه کرده است. به گفته او، این مقدار حافظه امکان استفاده از مدل‌های پیشرفته‌تر هوش مصنوعی را فراهم می‌کند.
البته ۶۴ گیگابایت رم حداقل نیازمندی قطعی این سیستم‌عامل نیست و نصب آن روی دستگاه‌هایی با حافظه کمتر نیز ممکن خواهد بود.
شرکت Kora Systems پیش‌بینی می‌کند که در سال ۲۰۲۷، حدود ۷۰ درصد درخواست‌های پردازش مدل‌های هوش مصنوعی تحت مدیریت این سیستم‌عامل به‌صورت محلی اجرا شوند.
براساس برنامه اعلام‌شده، نخستین محصولی که به بازار عرضه می‌شود، Humain OS خواهد بود. این سیستم‌عامل برای مشتریان سازمانی طراحی شده و قرار است در سال ۲۰۲۷ روی کامپیوترهای مجهز به Snapdragon X2 Elite عرضه شود.
نسخه عمومی Kora نیز در ادامه همان سال منتشر خواهد شد و کاربران می‌توانند آن را مستقیماً از وب‌سایت شرکت دریافت کنند.
مک‌مستر تأکید کرده است که نسخه قابل دانلود Kora برای نصب در اختیار همه کاربران قرار خواهد گرفت. شرکت سازنده فهرستی از پیکربندی‌های سخت‌افزاری پیشنهادی را نیز هنگام عرضه منتشر می‌کند.
به گفته او، این سیستم‌عامل باید روی بیشتر کامپیوترهای مدرن قابل نصب باشد. بااین‌حال، جزئیات دقیق قیمت‌گذاری و مدل تجاری Kora هنوز اعلام نشده است و این اطلاعات نزدیک به زمان انتشار مشخص خواهد شد.
