افزونه اینتل برای PyTorch اکنون از کارتهای گرافیک سری Arc A پشتیبانی میکند و قابلیتهای هوش مصنوعی، یادگیری عمیق و مدلهای زبان بزرگ را در این کارتهای گرافیک تقویت میکند.
به گزارش تکناک،کارتهای گرافیک سری Arc A اینتل که بر اساس معماری Alchemist ساخته شدهاند، پتانسیلهای سختافزاری زیادی دارند که روز به روز در حال تحقق هستند.
بخش نرمافزار اینتل کار فوقالعادهای در بهینهسازی عملکرد بازی این کارتهای گرافیک انجام داده است و اکنون تمرکز بر بازار نوظهور هوش مصنوعی است، جایی که واحدهای XMX موجود روی این تراشهها به طور کامل مورد استفاده قرار خواهند گرفت.
wccftech گزارش میدهد که اینتل در به روز رسانی اخیر خود تایید کرد که IPEX (افزونه اینتل برای PyTorch) اکنون از کارتهای گرافیک سری Arc A در پلتفرمهای ویندوز، لینوکس و WSL2 پشتیبانی میکند. با این پشتیبانی جدید، پردازندههای گرافیکی سری A اینتل نه تنها باعث افزایش سرعت مدلهای یادگیری عمیق مانند LLM میشوند، بلکه بهینهسازیهای جدیدی را برای سختافزار اینتل به ارمغان میآورند که امکان عملکرد سریعتر و اجرای مدلهای PyTorch روی پردازندههای گرافیکی Alchemist را برای کاربران فراهم میکند.
برای کسانی که کارت گرافیک سری Arc A اینتل را دارند و میخواهند از موتور هوش مصنوعی XMX آنها در PyTorch استفاده کنند، این شرکت یک وبلاگ کامل در مورد نحوه اجرای رابط Llama 2 روی ویندوز و WSL2 در اینجا منتشر کرده است. طبق گفته تیم نرم افزار هوش مصنوعی اینتل:
- کارتهای گرافیک (GPU) به خوبی برای کارهای مدلهای زبان بزرگ (LLM) مناسب هستند، زیرا در موازیسازی دادههای عظیم و پهنای باند حافظه بالا عملکرد عالی دارند. کارتهای گرافیک سری Arc A، از جمله Arc A770، با حداکثر ۵۱۲ موتور XMX (Xe Matrix Extensions) گرافیکهای با عملکرد بالا هستند که امکان اجرای سریع مدلهای یادگیری عمیق، از جمله LLM را فراهم میکنند.
- IPEX (افزونه اینتل برای PyTorch) با بهرهگیری از موتورهای XMX موجود در پردازندههای گرافیکی مجزا اینتل، PyTorch را با جدیدترین بهینهسازیهای عملکرد برای سختافزار اینتل گسترش میدهد.
- افزونه IPEX برای PyTorch امکان استفاده از دستگاه XPU در PyTorch را فراهم میکند که به انتقال آسان مدل PyTorch و دادههای ورودی به دستگاه برای اجرا روی پردازنده گرافیکی مجزا اینتل با شتابدهنده GPU کمک میکند.
- آخرین نسخه IPEX (v2.1.10+xpu) به طور رسمی از کارتهای گرافیک سری Arc A در WSL2، ویندوز و لینوکس به صورت native پشتیبانی میکند.
- اجرای استنتاج مدلهای Llama 2 7B و Llama 2-Chat 7B روی کارت گرافیک Arc A770 در ویندوز و WSL2 از طریق IPEX به نمایش گذاشته شده است.
- برای اجرای Llama 2 یا هر مدل PyTorch دیگر روی کارتهای گرافیک سری Arc A، کافیست چند خط کد اضافی برای وارد کردن intel_extension_for_pytorch و استفاده از روش .to(“xpu”) برای انتقال مدل و دادهها به دستگاه جهت اجرا روی کارت گرافیک سری Arc A اضافه کنید.
اخیراً مقاله ای منتشر کردیم که به نقل از رئیس سابق بخش پردازندههای گرافیکی اینتل، راجا کودوری، بیان میکرد که چگونه پردازندههای گرافیکی برای کامپیوترهای شخصی و بازی نقش اساسی در موفقیت هوش مصنوعی ایفا میکنند. گسترش پشتیبانی اینتل برای پردازندههای گرافیکی سری Arc A خبر خوبی برای بخش بازار است که در آن انویدیا و ایامدی با ارائه پشتیبانی سریع AI روی سختافزار مصرفکننده پیشرو بودهاند.
