فناوری اپتیکهای یکپارچه انویدیا با کاهش ۳ کیلوواتی مصرف برق سوییچها فضای لازم را برای افزودن پردازندههای گرافیکی بیشتر در خوشههای هوش مصنوعی فراهم میکند.
به گزارش سرویس سخت افزار تکناک، شبکهسازی به بخش مهمی از کارخانههای هوش مصنوعی تبدیل شده است و امکان اتصال داخلی را با سرعتهای باورنکردنی فراهم میکند. این راهکارها تضمین میکنند که دادهها بین خوشههای عظیم پردازنده گرافیکی با سرعت نور حرکت نمایند، همچنین به کاهش مصرف برق سوییچ، کاهش نقاط خرابی و بهبود کارایی خروجی توکن کمک میکنند.
در یک ویدیوی منتشرشده، اولین نگاه به سوییچ اپتیکهای یکپارچه فوتونیک انویدیا با همکاری لمبدا به نمایش گذاشته شده است. در مقیاس GB300 NVL72 انویدیا، شبکه فقط دادهها را بین پردازندههای گرافیکی جابهجا نمیکند، بلکه تعیینکننده سرعت پردازش خوشه است. فناوری اپتیکهای یکپارچه، مصرف برق سوییچ را کاهش میدهد و نقاط خرابی را کم میکند.
انویدیا اکنون ارسال راهکارهای جدید کوانتوم ایکس اینفینیبند خود را به شرکتهای هوش مصنوعی مانند لمبدا آغاز کرده است و این پلتفرم پس از جعبهگشایی در اکوسیستم هوش مصنوعی آنها مستقر شده است. راهکار شبکهسازی هوش مصنوعی کوانتوم ایکس به طور کامل از اپتیکهای یکپارچه فوتونیک سیلیکون استفاده میکند و قابلیتهای پردازش هوش مصنوعی با ظرفیت ۸۰۰ گیگابیت بر ثانیه را در رکهای مقیاس GB300 NVL72 ارتقا میدهد. طبق اعلام لمبدا، زیرساخت پشتیبانی اکنون ۸۶ درصد از توان شبکهسازی آنها را در یک خوشه سهلایه تشکیل میدهد.
این شرکت از اولین دریافتکنندگان جدیدترین راهکار اپتیکهای یکپارچه انویدیا است که با سوییچ Q3450-LD کار میکند. با این سوییچها، برق مصرفی در لایه سوییچینگ به شدت کاهش مییابد و فضای بیشتری برای تامین توان پردازندههای گرافیکی در کارخانههای هوش مصنوعی فراهم میشود. یک راهکار سوییچ استاندارد تقریباً ۷ کیلووات برق مصرف میکند، در حالی که راهکار فوتونیک سیلیکون انویدیا ۳.۹۵ کیلووات مصرف دارد که باعث صرفهجویی ۳.۰۵ کیلوواتی در پلتفرمهای GB300 بلکول اولترا میشود.
بررسی ابعاد خوشه نشان میدهد که در خوشه ۵۷۶ پردازنده گرافیکی با ۱۲ سوییچ CPO، حدود ۳۷ کیلووات توان شبکه آزاد میشود که معادل اضافه کردن ۲۶ پردازنده گرافیکی است. در خوشه ۴,۶۰۸ پردازنده گرافیکی با ۱۰۰ سوییچ، ۳۰۵ کیلووات توان آزاد شده که معادل ۲۱۷ پردازنده گرافیکی اضافی است. در خوشه ۱۰,۳۶۸ پردازنده گرافیکی با ۲۱۶ سوییچ، ۶۵۸ کیلووات توان معادل ۴۷۰ پردازنده گرافیکی آزاد میشود و در نهایت در خوشه ۴۱,۴۷۲ پردازنده گرافیکی با ۱,۴۴۰ سوییچ، ۴۳۹۲ کیلووات توان شبکه آزاد میشود که معادل توان ۳۱۳۷ پردازنده گرافیکی اضافی است.
همچنین فناوری CPO نقاط خرابی را کاهش میدهد. لمبدا اشاره میکند که یک مرکز داده با ۱۲۸ هزار پردازنده گرافیکی، از ۶۵۵ هزار ماژول فرستنده-گیرنده مجزا در ساختار سوییچینگ خود استفاده میکند که هر یک از این ماژولها یک نقطه خرابی احتمالی به حساب میآیند. با استفاده از فناوری CPO، اجزای نوری در شبکه بهشدت کاهش مییابد و در نتیجه تعداد خرابیها کمتر میشود.
در بررسی ظاهری کوانتوم ایکس اینفینیبند Q3450-LD انویدیا مشخص است که نمونههای مهندسی ارسالشده به لمبدا از ۱۸ ماژول منبع نور جداشدنی تشکیل شدهاند که ۱۴۴ پورت MPO را تغذیه میکنند. راهکار کوانتوم ایکس انویدیا بهجای محفظههای سنتی OSFP، از اتصالات آرایه فیبری ساخته شده است که به صورت مستقیم به موتور فوتونیک سیلیکون متصل میشوند.
بر اساس گزارش Wccftech، در بخش پشتی دستگاه، انویدیا از برق ۴۸ ولت مستقیم با اتصالات باسبار سازگار با DGX استفاده کرده است. خنکسازی بخش CPO از طریق چهار اتصال خنککننده مایع UDQ4 با دو حلقه داخلی انجام میشود و برای کسانی که پیش از این رکهای GB300 NVL72 را مستقر کردهاند، طراحیهای آشنای بسیاری دیده میشود.
مشخصات فنی دستگاه شامل فرمفکتور 4U، تراشه اصلی انویدیا کوانتوم ایکس ۸۰۰، ۱۴۴ پورت اینفینیبند ۸۰۰ گیگابیتی، اتصال نوری با ۱۴۴ کانکتور MPO، ظرفیت سوییچینگ غیرمسدودکننده ۱۱۵.۲ ترابیت بر ثانیه، ورودی برق باسبار ۴۸ ولت مستقیم، خنککننده مایع دو حلقه و منبع نور با ۱۸ ماژول خارجی جداشدنی (یک ماژول برای هر هشت پورت) است.
با توجه به اینکه هوش مصنوعی عاملمحور، مراکز داده را به ارائه خروجی توکن بیشتر و قابلیتهای پردازشی کارآمدتر سوق میدهد، نیاز به انتقال دادههای منعطف و پایدار به موضوعی ضروری تبدیل شده است. این همان نقطهای است که فناوری CPO (فوتونیک سیلیکون) وارد عمل میشود و امکان پردازش بیشتر را در همان فضای محدود مرکز داده فراهم میکند. انویدیا در این رقابت پیشتاز است و دیگر شرکتها در تلاش هستند تا خود را به این غول هوش مصنوعی برسانند.
