بر اساس گزارش منتشرشده، شرکت xAI متعلق به ایلان ماسک، تنها از ۱۱ درصد ظرفیت پردازندههای گرافیکی نصبشده خود استفاده میکند.
به گزارش سرویس سخت افزار تکناک، این شرکت هوش مصنوعی، توسعهدهنده زیرساختهایی مانند Groq و سایر سامانههای مبتنی بر هوش مصنوعی است.
در حال حاضر، xAI حدود ۵۵۰ هزار پردازنده گرافیکی انویدیا شامل مدلهای H100 و H200 را در اختیار دارد. این تجهیزات در مراکز داده این شرکت در ممفیس و خوشههای Colossus مستقر شدهاند و بخشی از آنها نیز از سیستمهای خنککننده مایع استفاده میکنند. اگرچه این پردازندهها نسبت به نسل جدید Blackwell قدیمیتر محسوب میشوند، اما مقیاس زیرساختی xAI همچنان بسیار بزرگ و قابل توجه است.
بر اساس گزارش wccftech، مشکل اصلی در بهرهوری پایین این سیستمها به ضعف در بهینهسازی «پشته نرمافزاری هوش مصنوعی» و مقیاسپذیری بازمیگردد؛ موضوعی که به یک چالش فراگیر در کل صنعت هوش مصنوعی تبدیل شده است.
مرتبط: قدرت محاسباتی xAI تا ۵ سال دیگر از کل جهان فراتر میرود
مرتبط: موج استعفا در xAI؛ نیمی از تیم بنیانگذار شرکت ایلان ماسک را ترک کردند
در حال حاضر، شرکت xAI تنها حدود ۱۱ درصد از کل ظرفیت پردازندههای گرافیکی خود را بهکار میگیرد که معادل تقریباً ۶۰ هزار پردازنده از مجموع ۵۵۰ هزار واحد نصبشده است. این در حالی است که در مقیاسهای کوچک چنین مشکلی چندان محسوس نیست، اما با افزایش تعداد پردازندههای گرافیکی به صدها هزار واحد، زمانهای بیکاری و ناکارآمدی به طور قابل توجهی افزایش مییابد.
در مقابل، شرکتهایی مانند متا و گوگل با بهینهسازی بهتر زیرساخت نرمافزاری خود توانستهاند نرخ بهرهوری بالاتری به ترتیب حدود ۴۳ و ۴۶ درصد به دست آورند. اما در xAI هنوز شبکه آموزش توزیعشده و پشته نرمافزاری به بلوغ کافی نرسیده و همین موضوع باعث ایجاد گلوگاه در پردازش دادهها و افزایش زمانهای بلااستفاده پردازندههای گرافیکی شده است.
هرچند، این شرکت قصد دارد در آینده نرخ بهرهوری را به حدود ۵۰ درصد افزایش دهد؛ هدفی که عمدتاً از طریق بهبود زیرساخت و ارتقای پشته نرمافزاری دنبال خواهد شد. همچنین برنامههایی برای ارائه خدمات اجارهای از این ظرفیت عظیم پردازشی در دست بررسی است.
مرتبط: ایلان ماسک ظرفیت محاسباتی xAI را به ۲ گیگاوات میرساند
