ソフトバンクは2024年10月31日、現在拡張を進めているAI計算基盤において、約4000基の「NVIDIA Hopper GPU」を整備したと発表した。
「NVIDIA Hopper GPU」を搭載したAI計算基盤
同社は、約2000基の「NVIDIA Ampere GPU」を用いた0.7EFLOPS(エクサフロップス)のAI計算基盤の稼働を、2023年9月に開始した。今回の約4000基の「NVIDIA Hopper GPU」の整備により、AI計算基盤全体のGPU(映像処理装置)は約6000基となり、計算処理能力の合計は4.7エクサフロップスに向上したという。
今後は、2024年度から2025年度にかけて、「NVIDIA DGX B200」システムで構成された「NVIDIA DGX SuperPOD」を活用してGPUを合計約1万基に増強する予定で、さらにその後もGPUの増強を行うことで、AI計算基盤の計算能力としては国内最大級となる25.7エクサフロップスの計算能力の実現を目指す。
このAI計算基盤は、まずは日本語に特化した国産の大規模言語モデル(LLM)の開発を行う子会社「SB Intuitions」が活用する。SB Intuitionsは、2024年度中にマルチモーダルに対応した約3900億パラメーターのLLMの構築を目指しており、このたびのAI計算基盤の増強を受けて開発をさらに加速していくとしている。