استارتاپ Enfabrica سیستم حافظه خارجی Emfasys را معرفی کرده که ازطریق شبکه میتواند تا ۱۸ ترابایت حافظه DDR5 به سرورهای هوش مصنوعی اضافه کند.
به گزارش تکناک، استارتاپ نوپای Enfabrica که از حمایت مالی و فنی انویدیا برخوردار است، محصول جدید خود با نام Emfasys را معرفی کرد. این سیستم با هدف رفع محدودیت حافظه در سرورهای هوش مصنوعی طراحی شده است و حداکثر ۱۸ ترابایت حافظه DDR5 را میتواند ازطریق اتصال اترنت به هر سروری اضافه کند. فناوری نوآورانه یادشده هزینه تولید هر توکن هوش مصنوعی را تا ۵۰ درصد کاهش میدهد.
درحالیکه ظرفیت رم برای بسیاری از برنامههای پیشرفته هوش مصنوعی به عاملی محدودکننده تبدیل شده است، افزودن حافظه بیشتر به سیستمهای میزبان همواره ساده یا امکانپذیر نیست. در این زمینه، Enfabrica با توسعه سیستم Emfasys، راهحلی نوین ارائه داده است که امکان اتصال حافظه خارجی ازطریق شبکه را فراهم میسازد. درحالحاضر، این سیستم در مرحله آزمایشی با مشتریان منتخب قرار دارد.
تامزهاردور مینویسد که Emfasys برپایه تراشه قدرتمند ACF-S SuperNIC این شرکت با سرعت انتقال ۳٫۲ ترابیتبرثانیه (۴۰۰ گیگابایتبرثانیه) طراحی شده است و از حافظه DDR5 تا سقف ۱۸ ترابایت با فناوری CXL پشتیبانی میکند. این استخر حافظه ازطریق پورتهای استاندارد اترنت 400G یا 800G و با استفاده از فناوری RDMA در دسترس است و بدون نیاز به تغییرات معماری، بهراحتی در سرورهای هوش مصنوعی قابلیت ادغام دارد.
جابهجایی داده میان سرورهای GPU و استخر حافظه ازطریق RDMA انجام میشود که امکان دسترسی مستقیم با تأخیر بسیار کم و بدون دخالت CPU را با استفاده از پروتکل CXL.mem فراهم میسازد. ناگفته نماند که برای استفاده از این استخر حافظه، سرورها باید به نرمافزار مدیریت حافظه چندلایه مجهز باشند که Enfabrica آن را ارائه میدهد. این نرمافزار با محیطهای سختافزاری و سیستمعاملهای موجود سازگار بوده و مبتنیبر رابطهای استاندارد RDMA طراحی شده است.
هدف از توسعه سیستم حافظه خارجی Emfasys، پاسخگویی به نیازهای روزافزون حافظه در پردازشهای پیشرفته هوش مصنوعی است؛ کاربردهایی نظیر دستورهای متنی طولانی و پنجرههای زمینه وسیع و تعامل میان چند عامل. در چنین مواقعی، فشار زیادی بر حافظههای پرهزینه و محدود HBM وارد میشود. استفاده از استخر حافظه خارجی نهتنها امکان توسعه انعطافپذیر حافظه برای هر سرور را فراهم میکند؛ بلکه باعث بهبود بهرهوری پردازشی و جلوگیری از هدررفت منابع گرانقیمت و کاهش هزینههای کلی زیرساخت میشود.
درحالحاضر، تعدادی از مشتریان منتخب در حال ارزیابی و آزمایش سیستم Emfasys و تراشه ACF-S SuperNIC هستند. شایان ذکر است که زمان عرضه عمومی این محصول هنوز مشخص نشده است. در پایان، باید بگوییم که Enfabrica بهعنوان عضو مشاور در کنسرسیوم Ultra Ethernet (UEC) و مشارکتکننده در کنسرسیوم Ultra Accelerator Link (UALink) فعالیت میکند؛ مسیری که نشاندهنده تمرکز بلندمدت این شرکت بر توسعه زیرساختهای پرشتاب و گسترشپذیر برای نسل جدید بارهای کاری هوش مصنوعی است.
