شرکت کیوکسیا با رونمایی از نمونه اولیه یک ماژول فلش ۵ ترابایتی با پهنای باند عظیم ۶۴ گیگابایت بر ثانیه، راهکاری نوین برای رفع تنگنای حافظه در پردازنده‌های گرافیکی هوش مصنوعی از طریق نزدیک کردن حافظه NAND به گذرگاه حافظه (memory bus) ارائه کرده است.
به گزارش تکناک، شرکت Kioxia از نمونه اولیه ماژول حافظه فلش پرظرفیتی رونمایی کرده است که ۵ ترابایت ظرفیت و ۶۴ گیگابایت بر ثانیه پهنای باند ارائه می‌دهد؛ محصولی که عملاً نقش حافظه مبتنی بر NAND برای GPUها را ایفا می‌کند. این فناوری جدید که با نام High Bandwidth Flash یا HBF شناخته می‌شود، مشابه ایده HBM اما بر پایه فلش NAND طراحی شده و ظرفیت ۸ تا ۱۶ برابر بیشتری نسبت به حافظه‌های DRAM-HBM فراهم می‌سازد. ترکیب سرعت بالا با ماهیت پایدار فلش باعث می‌شود مجموعه داده‌های عظیم هوش مصنوعی با کارایی بیشتر و مصرف انرژی کمتر در دسترس باشند.
به نقل از تامزهاردور، در حالی‌که سریع‌ترین SSDهای PCIe 5.0 موجود مانند Samsung 9100 Pro حدود ۱۴ گیگابایت بر ثانیه سرعت دارند، نمونه جدید Kioxia چهار برابر سریع‌تر عمل می‌کند و حتی به توان عملیاتی HBM2E نزدیک می‌شود. این ماژول از رابط PCIe 6.0 بهره می‌گیرد و پهنای باندی معادل نیمی از ظرفیت نظری ۱۲۸ گیگابایت بر ثانیه را پوشش می‌دهد، بدون اینکه فشار کامل بر گذرگاه وارد شود.
برخلاف معماری مرسوم که یک کنترلر مرکزی کل بانک NAND را مدیریت می‌کند، در HBF هر ماژول کنترلر اختصاصی خود را دارد. این کنترلر مستقیماً در کنار تراشه NAND قرار گرفته و به‌صورت زنجیره‌ای به سایر ماژول‌ها متصل می‌شود. نتیجه آن کاهش تداخل سیگنال و افزایش مقیاس‌پذیری است. فناوری PAM4 نیز برای دو برابر کردن نرخ داده در هر سمبل به‌کار رفته و با کمک تصحیح خطا و Equalization کیفیت سیگنال حفظ می‌شود.
تأخیر NAND همچنان در سطح میکروثانیه باقی می‌ماند، در حالی که HBM در حد نانوثانیه کار می‌کند. Kioxia این ضعف را با پیش‌بارگذاری (Prefetching) و کش داخلی کنترلر کاهش داده است. بنابراین، اگرچه فلش به سرعت DRAM نمی‌رسد، اما برای بارهای کاری ترتیبی مانند دیتاست‌های عظیم یادگیری ماشین یا تحلیل گراف، پهنای باند بالاتر از اهمیت بیشتری برخوردار خواهد بود.
هر ماژول HBF کمتر از ۴۰ وات انرژی مصرف می‌کند؛ عددی که در مقایسه با SSDهای Gen5 (۱۵ وات برای ۱۴ گیگابایت بر ثانیه) بهره‌وری فوق‌العاده‌ای نشان می‌دهد. در دیتاسنترهایی که صدها درایو همزمان فعال هستند، این صرفه‌جویی انرژی بسیار مهم است. همچنین اتصال زنجیره‌ای ماژول‌ها باعث می‌شود افزودن ظرفیت، تأثیری بر پهنای باند نگذارد. یک مجموعه ۱۶ تایی از این ماژول‌ها می‌تواند به ۸۰ ترابایت ظرفیت و بیش از ۱ ترابایت بر ثانیه پهنای باند برسد.
Kioxia پیش‌تر نیز پروژه‌هایی برای افزایش پهنای باند فلش اجرا کرده بود، از جمله همکاری با Nvidia در زمینه XL-Flash و توسعه SSDهای بلندبرد PCIe. همچنین این شرکت اخیراً سرمایه‌گذاری‌های بزرگی برای توسعه خطوط تولید در ژاپن انجام داده و پیش‌بینی می‌کند تقاضای فلش تا سال ۲۰۲۸ نزدیک به سه برابر شود. بنابراین، نمونه HBF تنها یک آزمایش آزمایشگاهی نیست، بلکه بخشی از نقشه راه آینده برای قرار گرفتن NAND در جایگاه نزدیک‌تری به واحدهای پردازشی است.
نمونه اولیه ماژول HBF هنوز در مرحله آزمایشی است و پرسش‌هایی درباره عملکرد در بارهای تصادفی و شرایط واقعی آموزش هوش مصنوعی وجود دارد. با این حال، پیام اصلی روشن است: فلش از نقش سنتی خود به‌عنوان ذخیره‌ساز کند خارج شده و به‌سمت قرار گرفتن در سطحی نزدیک به حافظه حرکت می‌کند. اگر این چشم‌انداز محقق شود، نسل آینده دیتاسنترها شاهد رقابت ماژول‌های ذخیره‌سازی با GPUها در زمینه سرعت و پهنای باند خواهد بود.
