شرکت AMD برای رقابت با انویدیا، چتبات مبتنیبر LLM و با قابلیت اجرا روی پردازندههای Ryzen AI و کارتهای گرافیک Radeon 7000 را معرفی کرده است.
بهگزارش تکناک، AMD چتبات هوش مصنوعی Ryzen AI را رونمایی کرد. این چتبات که رقیبی برای «چت با RTX» انویدیا بهشمار میرود، از LLM برای پردازش متن استفاده میکند و میتواند روی سختافزارهای متنوعی اجرا شود. ازجمله این سختافزارها میتوان به کامپیوترهای Ryzen AI مجهز به پردازندههای Ryzen 7000 و Ryzen 8000 با واحدهای پردازش عصبی XDNA و کارتهای گرافیک جدید Radeon 7000 با هستههای شتابدهنده هوش مصنوعی اشاره کرد.
AMD راهنمایی برای راهاندازی این چتبات مبتنیبر LLM روی سختافزارهای خود منتشر کرده است. برای پردازندههای Ryzen AI میتوان از نسخه استاندارد LM Studio برای ویندوز استفاده کرد. کارتهای گرافیک Radeon RX 7000 نیز از نسخه پیشنمایش فنی ROCm پشتیبانی میکنند.
راهنمای کامل در زیر آمده است:
۱. دانلود نسخه صحیح LM Studio: برای پردازندههای AMD Ryzen برنامه LM Studio برای ویندوز را دانلود کنید. برای کارتهای گرافیک AMD Radeon RX 7000 برنامه LM Studio پیشنمایش فنی ROCm را دانلود کنید.
۲. اجرای فایل
۳. در بخش جستوجو، عبارت مدنظر خود را برای اجرا وارد کنید:
- برای اجرای Mistral 7b عبارت «TheBloke/OpenHermes-2.5-Mistral-7B-GGUF» را جستوجو و از نتایج سمت چپ انتخاب کنید. معمولاً اولین نتیجه خواهد بود. در این مثال از مدل Mistral استفاده میکنیم.
- برای اجرای LLAMA v2 7b عبارت «TheBloke/Llama-2-7B-Chat-GGUF» را جستوجو و از نتایج سمت چپ انتخاب کنید. این هم معمولاً اولین نتیجه خواهد بود.
- میتوانید مدلهای دیگری را نیز امتحان کنید.
۴. در پنل سمت راست، به پایین اسکرول کنید تا فایل مدل Q4 K M را ببینید. روی دانلود کلیک کنید.
- مدل Q4 K M برای اکثر مدلهای Ryzen AI توصیه میشود. منتظر پایان دانلود بمانید.
۵. به بخش چت بروید. مدل مدنظر را از منو کشویی وسط صفحه انتخاب کنید و منتظر بمانید تا بارگذاری شود.
۶. اگر کامپیوتر شما به پردازنده Ryzen AI مجهز است، حالا میتوانید چت را شروع کنید! اگر هم از کارت گرافیک Radeon استفاده میکنید، مراحل زیر را انجام دهید:
- گزینه «بارگذاری روی پردازنده گرافیکی» را در پنل سمت راست علامت بزنید.
- اسلایدر را تا انتها بهسمت «حداکثر» حرکت دهید.
- مطمئن شوید نوع پردازنده گرافیکی شناساییشده «AMD ROCm» است.
داشتن چتبات مبتنیبر هوش مصنوعی که بهدرستی راهاندازی شده باشد، میتواند زندگی و کار را آسانتر کند. با استفاده از این چتبات میتوانید کارهایتان را با بازدهی بیشتری انجام دهید و نتایج بهتری براساس پرسشهای خود و مسیری که LLM برای آن آموزش داده شده است، بهدست آورید.
NVIDIA و AMD سرعت توسعه قابلیتهای هوش مصنوعی را برای سختافزارهای مصرفکنندگان خانگی افزایش میدهند و این تازه آغاز است. انتظار میرود با پیشرفت بخش کامپیوترهای مجهز به هوش مصنوعی، شاهد نوآوریهای بیشتری در این زمینه باشیم.