فهرست مطالب
پردازنده Vera انویدیا با ارائه عملکرد بالاتر و بهره‌وری انرژی بهتر در مقایسه با پردازنده‌های x86 شرکت‌هایی مانند AMD، به گزینه‌ای قدرتمند برای اجرای بارهای کاری هوش مصنوعی عامل‌محور تبدیل شده است.
به گزارش سرویس سخت‌افزار تکناک، این پردازنده همچنان معادلات بازار هوش مصنوعی عامل‌محور را تغییر می‌دهد و تاکنون چندین شرکت فعال در این حوزه به استفاده از آن روی آورده‌اند. استقبال گسترده از این پردازنده بازتاب‌دهنده تغییر الگوی تقاضا در صنعت هوش مصنوعی است؛ تغییری که با ورود به عصر هوش مصنوعی عامل‌محور، تمرکز را از پردازنده‌های گرافیکی به پردازنده‌های مرکزی منتقل کرده است.
بیشتر بخوانید: ضعف نظارت آمریکا بر خریداران چینی تراشه‌های انویدیا
بارهای محاسباتی هوش مصنوعی
بارهای کاری هوش مصنوعی در قالب چرخه‌های تکرارشونده اجرا می‌شوند و برای تکمیل هر وظیفه، ممکن است صدها بار میان پردازنده گرافیکی و پردازنده مرکزی جابه‌جا شوند. در این فرایند، پردازنده گرافیکی مسئولیت استدلال را بر عهده دارد و پردازنده مرکزی وظایف اجرایی مانند: فراخوانی ابزارها، اجرای کوئری‌های SQL، درخواست‌های API و اجرای اسکریپت‌ها را انجام می‌دهد. هر چرخه به‌صورت متوالی اجرا می‌شود و به حجم زیادی از داده نیاز دارد؛ بنابراین، پردازنده باید بارها به حافظه مراجعه کند. برای مدیریت این چرخه‌های مداوم و داده‌محور، پردازنده‌های مرکزی بهینه‌شده برای هوش مصنوعی عامل‌محور باید سه ویژگی کلیدی داشته باشند:
- عملکرد بالای هر هسته: برای اجرای سریع‌تر فراخوانی ابزارها
- پهنای باند بالای حافظه: برای انتقال داده‌ها بدون تأخیر
- تأخیر پایین: برای آغاز سریع‌تر مرحله بعدی استدلال در پردازنده گرافیکی
تغییرات معماری انویدیا در پردازنده Vera دقیقا این نیازها را هدف قرار داده‌اند. این شرکت اکنون نتایج بنچمارک‌های جدیدی را منتشر کرده است که از برتری این پردازنده در اجرای بارهای کاری عامل‌محور حکایت دارند:
- ۱.۶ برابر عامل بیشتر به‌ازای هر وات: در مقایسه با پردازنده سریع ۹۶ هسته‌ای x86
- دو برابر سرعت بیشتر در اجرای عامل‌ها: در مقایسه با پردازنده متراکم ۲۵۶ هسته‌ای x86
حتما بخوانید: طراحی شش‌تکه‌ای پردازنده Nova Lake-H اینتل در تصویری جدید فاش شد
انویدیا این نتایج را با پردازنده‌های نسل ششم EPYC Venice شرکت AMD مقایسه کرده است. بر اساس داده‌های منتشرشده، Vera در برابر سریع‌ترین مدل ۹۶ هسته‌ای Venice که برای فرکانس کاری بالا بهینه شده است، ۶۰ درصد عملکرد بیشتری به‌ازای هر وات ارائه می‌دهد. همچنین این پردازنده در مقایسه با مدل متراکم ۲۵۶ هسته‌ای مبتنی بر معماری Zen 6، سرعت اجرای عامل‌های هوش مصنوعی را دو برابر افزایش می‌دهد. معیار این مقایسه، تعداد وظایف تکمیل‌شده به‌ازای هر مگاوات است.
نتایج منتشرشده از سوی انویدیا برای مشتریان حوزه هوش مصنوعی عامل‌محور امیدوارکننده به نظر می‌رسند؛ هرچند ارائه جزئیات بیشتر درباره روش آزمایش و شرایط بنچمارک‌ها می‌تواند تصویر دقیق‌تری از این برتری عملکردی ارائه دهد.
نتایج عملکرد پردازنده Vera انویدیا در شرکت‌های مختلف
- Perplexity: وظایف برنامه‌نویسی عامل‌محور با پردازنده Vera انویدیا حدود ۱.۵ برابر سریع‌تر از پردازنده‌های مرکزی سنتی اجرا شده‌اند. این شرکت قصد دارد Vera را در یکی از سیستم‌های عملیاتی آینده خود به کار بگیرد.
- DeepInfra: در بار کاری عملیاتی عامل‌های این شرکت، Vera در بخش هماهنگ‌سازی عامل‌ها تا ۲.۲ برابر سریع‌تر از بهترین پردازنده x86 عمل کرده است. این پردازنده در میان چهار معماری آزمایش‌شده، بالاترین سرعت را به ثبت رسانده است.
- ClickHouse: نسخه استاندارد نرم‌افزار این شرکت، بدون نیاز به هیچ‌گونه بهینه‌سازی اختصاصی برای Vera، توانسته است با افزایش تعداد هسته‌ها تا ۱۷۶ هسته، تقریبا به مقیاس‌پذیری خطی دست پیدا کند و در رتبه‌بندی سخت‌افزاری ClickBench صدرنشین شود.
- DuckDB: پردازنده Vera در آزمون TPC-H با مقیاس SF1000، عملکرد میانه‌ای حدود ۱.۵ برابر بهتر از سیستم مرجع مبتنی بر Intel Xeon 6 ارائه کرده است.
- Daytona: این شرکت توانسته است ۱۰۰۰ محیط ایزوله اجرای عامل‌های هوش مصنوعی را تنها در ۱۰.۸ ثانیه فعال کند. همچنین در شرایط اجرای هم‌زمان ۲۰۰۰ محیط ایزوله، نرخ تکمیل وظایف به ۱۲.۷ مورد در ثانیه رسیده است؛ رقمی که برای پردازنده AMD EPYC 9755 معادل ۱۰.۹ وظیفه در ثانیه بوده است.
- Modal: پردازنده Vera انویدیا در مقایسه با سخت‌افزارهای هم‌رده مبتنی بر x86، تا دو برابر توان عملیاتی بیشتری به‌ازای هر هسته در اجرای محیط‌های ایزوله ارائه می‌دهد. این برتری با افزایش فشار کاری نیز بیشتر می‌شود.
برای مطالعه بیشتر: پردازنده‌های Razor Lake-S اینتل با سوکت LGA 1954 عرضه می‌شوند
پردازنده Vera انویدیا به‌تدریج جایگاه خود را به عنوان یکی از گزینه‌های مهم زیرساختی در عصر هوش مصنوعی عامل‌محور تثبیت می‌کند. معماری این پردازنده برای پاسخ‌گویی به نیازهای بارهای کاری تکرارشونده و داده‌محور طراحی شده است؛ بارهایی که به بهره‌وری انرژی بالا، سرعت پردازش و تأخیر کم نیاز دارند. نتایج اولیه به‌دست‌آمده در محیط‌های عملیاتی نیز از برتری Vera در مقایسه با گزینه‌های مطرح مبتنی بر x86، هم از نظر سرعت اجرا و هم از نظر مصرف انرژی، حکایت دارند. این عملکرد می‌تواند یکی از عوامل اصلی گسترش استفاده از پردازنده جدید انویدیا در میان شرکت‌های فعال در حوزه زیرساخت هوش مصنوعی باشد.
