فهرست مطالب
ابزار جدید لاما برای ویندوز با امکان دانلود و اجرای مدل‌های هوش مصنوعی محلی تنها با یک کلیک، رابط برنامه‌نویسی سازگار با اوپن‌ای‌آی و پشتیبانی از ویندوز ۱۱، استفاده از هوش مصنوعی روی کامپیوتر شخصی را بدون وابستگی به سرویس‌های ابری پولی ساده‌تر می‌کند.
به‌گزارش سرویس هوش مصنوعی تکناک، بخش بزرگی از کاربران برای انجام امور روزمره به سرویس‌های هوش مصنوعی ابری مانند ChatGPT، کوپایلت و جمنای وابسته‌اند. این سرویس‌ها معمولا سهمیه‌های رایگان قابل‌توجهی ارائه می‌کنند که برای استفاده‌های عادی کفایت می‌کند.
با این‌حال، اجرای محلی مدل‌های هوش مصنوعی برای دو گروه جایگزینی کاربردی به شمار می‌رود: کاربرانی که به حریم خصوصی اهمیت می‌دهند و تمایلی به ارسال داده‌های خود به زیرساخت‌های ابری ندارند و کاربران حرفه‌ای که می‌خواهند هزینه اشتراک‌های گران‌قیمت را کاهش دهند.
بیشتر بخوانید: هشدار چهره‌های سرشناس درباره خطرات امنیتی هوش مصنوعی!
ابزار لاما چیست و چه قابلیت‌هایی دارد؟
روش‌های متعددی برای اجرای محلی مدل‌های هوش مصنوعی در ویندوز وجود دارد. LM Studio یکی از گزینه‌های شناخته‌شده در این حوزه است که با ارائه رابط کاربری گرافیکی، فرایند دانلود، مدیریت و تعامل با مدل‌های مختلف را بدون نیاز به استفاده از خط فرمان ساده می‌کند. اکنون Hugging Face و تیم توسعه llama.cpp از ابزار جدیدی با نام «لاما برای ویندوز» پرده برداشته‌اند. این برنامه برخلاف ال‌ام استودیو، یک ابزار سبک است که در سینی سیستم ویندوز ۱۱ اجرا می‌شود و امکان دانلود و راه‌اندازی مدل‌های هوش مصنوعی محلی را با حداقل مراحل در اختیار کاربران قرار می‌دهد.
این ابزار با استفاده از چارچوب وین‌یو‌آی ۳ مایکروسافت توسعه یافته و برای اجرای مدل‌ها روی دستگاه کاربر به موتور llama.cpp متکی است. پس از نصب، کاربران می‌توانند مدل‌های پیشنهادی Hugging Face را انتخاب کرده و با یک کلیک دانلود کنند. تعامل با مدل نیز از طریق رابط وب داخلی برنامه انجام می‌شود. لاما برای ویندوز پیش از آغاز دانلود، اطلاعات فنی مدل‌ها، ازجمله حجم فایل، تعداد پارامترها و قابلیت پردازش تصویر را نمایش می‌دهد تا کاربران بتوانند آگاهانه‌تر مدل موردنظر خود را انتخاب کنند.
حتما بخوانید: چگونه تامین مالی هوش مصنوعی می‌تواند به اقتصاد جهانی آسیب بزند؟
مهم‌ترین قابلیت‌های لاما برای ویندوز عبارت‌اند از:
- جست‌وجو و دانلود مستقیم مدل‌های کوانتیزه‌شده پیشنهادی از Hugging Face
- دسترسی سریع به برنامه از طریق سینی سیستم ویندوز، بدون نیاز به باز نگه‌داشتن پنجره اصلی
- فراخوانی رابط گفت‌وگوی سریع با مدل بارگذاری‌شده در هر نقطه از محیط ویندوز با میان‌بر صفحه‌کلید Alt + Space
- نصب و پیکربندی خودکار محیط اجرایی لاما دات سی‌پی‌پی بدون نیاز به مجوزهای مدیر سیستم
- بارگذاری و تخلیه مدل‌های دانلودشده با استفاده از حافظه کش مشترک Hugging Face برای جلوگیری از دانلود چندباره فایل‌های یکسان
پشتیبانی از رابط برنامه‌نویسی کاربردی سازگار با OpenAI، یکی از مهم‌ترین ویژگی‌های این ابزار محسوب می‌شود. لاما برای ویندوز یک سرور محلی را روی نشانی http://localhost:9931 اجرا می‌کند و به برنامه‌های دیگر اجازه می‌دهد به مدل‌های هوش مصنوعی ذخیره‌شده روی دستگاه دسترسی پیدا کنند. به این ترتیب، عامل‌های برنامه‌نویسی، ویرایشگرهای کد و کلاینت‌های گفت‌وگوی هوش مصنوعی سازگار می‌توانند بدون وابستگی به رابط‌های برنامه‌نویسی ابری پولی از این مدل‌ها استفاده کنند. توسعه‌دهندگان نیز با تنظیم نشانی http://localhost:9931/v1 به‌عنوان نقطه پایانی رابط برنامه‌نویسی، می‌توانند برنامه‌های سازگار خود را به این سرویس متصل کنند.
سازگاری سخت‌افزاری
برای مطالعه بیشتر: افشای اطلاعات کارت اعتباری ایلان ماسک پس از خرید با گروک خبرساز شد
از نظر سازگاری سخت‌افزاری، لاما برای ویندوز روی رایانه‌های مجهز به ویندوز ۱۱ با معماری‌های ایکس۶۴ و آرم۶۴ اجرا می‌شود. بااین‌حال، در اطلاعیه معرفی این ابزار، بهینه‌سازی آن برای پلتفرم آر‌تی‌ایکس اسپارک انویدیا که با همکاری این شرکت توسعه یافته، برجسته شده است. اگرچه پشتیبانی از نسخه آرم ویندوز در دسترس قرار دارد، ارائه بهینه‌سازی‌های اختصاصی برای پردازنده‌های اسنپدراگون ایکس الیت و سایر مدل‌های خانواده اسنپدراگون ایکس کوالکام می‌تواند ارزش این ابزار را برای کاربران این دستگاه‌ها افزایش دهد. چنین بهینه‌سازی‌هایی به‌ویژه از آن جهت اهمیت دارند که امکان بهره‌گیری بهتر از واحدهای پردازش عصبی اختصاصی این پردازنده‌ها را فراهم می‌کنند.
