یک استارتاپ با استفاده از 22،000 GPU محاسباتی Nvidia H100 یک سوپرکامپیوتر ساخته است که می تواند دومین دستگاه سریع جهان در نوع خود باشد.
به گزارش تکناک، یک استارتاپ جدید به نام Inflection AI ، که توسط بنیان‌گذار سابق DeepMind تأسیس شده است و با حمایت شرکت‌های Microsoft و Nvidia در هفته گذشته موفق به جمع‌آوری ۱.۳ میلیارد دلار به صورت پول نقد و اعتبار ابری از صنعت‌گران شد.
این شرکت قصد دارد از این مبلغ برای ایجاد یک خوشه سوپرکامپیوتر استفاده کند، که حاوی حداکثر ۲۲،۰۰۰ GPU محاسباتی Nvidia H100 با توان محاسباتی نظری بالاتر از سوپرکامپیوتر Frontier خواهد بود.
به گزارش رویترز، مصطفی سلیمان، بنیان‌گذار DeepMind و یکی از شرکای Inflection AI، گفت: ما قصد داریم یک خوشه حدود ۲۲،۰۰۰ دستگاه H100 را بسازیم، این تقریباً سه برابر توان محاسباتی است که برای آموزش GPT-4 استفاده شده است. سرعت و مقیاس، چیزی است که واقعاً به ما کمک خواهد کرد تا محصول متمایزی بسازیم.
یک خوشه با ۲۲،۰۰۰ GPU محاسباتی Nvidia H100 در حداکثر قابلیت محاسباتی FP64 با استفاده از هسته‌های Tensor قادر به ارائه عملکرد ۱.۴۷۴ اگزافلاپ است. با اجرای کدهای FP64 عمومی بر روی هسته‌های CUDA، حداکثر توان عملیاتی تنها نصف آن یعنی ۰.۷۳۷ اگزافلاپ FP64 است.
در همین حال، سریع‌ترین سوپرکامپیوتر جهان، Frontier، با توان عملکرد محاسباتی حداکثر ۱.۸۱۳ اگزافلاپ FP64 یعنی تا دو برابر آن به اندازه 3.626 اگزافلاپس برای عملیات ماتریسی قرار دارد. این رایانه جدید برنامه‌ریزی‌شده را در حال حاضر در جایگاه دوم قرار می‌دهد، اگرچه ممکن است پس از آنلاین شدن و راه‌اندازی کامل El Capitan و Aurora به رتبه چهارم سقوط کند.
هرچند عملکرد FP64 برای بارهای علمی بسیار مهم است، اما این سیستم برای وظایف مرتبط با هوش مصنوعی احتمالاً بسیار سریعتر خواهد بود. توان عبور FP16/BF16 حداکثر 43.5 اگزافلاپ است و برای توان عبور FP8 آن را دو برابر کنید و به 87.1 اگزافلاپ برسید. سوپرکامپیوتر Frontier با استفاده از 37،888 دستگاه Instinct MI250X از AMD، دارای توان عبور BF16/FP16 حداکثر 14.5 اگزافلاپ است.
هزینه خوشه محاسباتی مشخص نیست، اما در نظر داشته باشید که هر واحد GPU محاسباتی Nvidia H100 بیش از ۳۰ هزار دلار به فروش می‌رسد، بنابراین انتظار داریم هزینه GPUها برای خوشه صدها میلیون دلار باشد. با افزودن تمام سرورهای رک و سایر سخت‌افزارها، بیشترین بخش از ۱.۳ میلیارد دلار سرمایه‌گذاری را تشکیل خواهد داد.
شرکت Inflection AI در حال حاضر با ارزش تقریبی ۴ میلیارد دلار، حدود یک سال پس از تأسیس آن، فعالیت می‌کند. تنها محصول فعلی این شرکت یک چت‌بات هوش مصنوعی به نام Pi است که به عنوان معنای شخصیت هوشمند طراحی شده است.
Pi برای ارائه خدمات به عنوان یک دستیار شخصی با تکنولوژی هوش مصنوعی مولد مانند ChatGPT، قابلیت تولید پاسخ و برنامه‌ریزی و جمع‌آوری اطلاعات را داراست. Pi همچنین این امکان را فراهم می‌کند که از طریق گفتار با کاربران ارتباط برقرار کند و امکان پرسش و نظرخواهی را فراهم کند. علاوه بر این، Inflection AI اهداف خاص تجربه کاربری برای Pi را مشخص کرده است، مانند ارائه حمایت عاطفی به کاربران.
در حال حاضر، Inflection AI یک خوشه با ۳،۵۸۴ GPU محاسباتی Nvidia H100 را در فضای ابری Microsoft Azure به کار می‌برد. خوشه سوپرکامپیوتر پیشنهادی تقریباً شش برابر عملکرد فعلی مبتنی بر فضای ابری ارائه خواهد داد.
