AIデータセンター向けのソフトウェアを開発
今年1月には、AI DC向けのソフトウェアスタック（システムやアプリの構築・運用に必要な複数のソフトウェアや機能を組み合わせて提供するもの） 「Infrinia AI Cloud OS」を開発。「これからの課題はGPUの調達ではない。AI DCの運用が複雑化するなかで、いかに運用を効率化するかが今後重要になる。その課題を解決するためにInfrinia AI Cloud OSを開発した」と山科氏は説明した。
Infrinia AI Cloud OSの概要
具体的には、マルチテナント環境に対応した「Kubernetes as a Service」（KaaS）と、大規模言語モデル（LLM）の推論機能をAPIとして提供する「Inference as a Service」（Inf-aaS）などを用意する。これにより、AIデータセンター事業者は、自社のGPUクラウドサービスにこれらを組み込んで提供することが可能になり、TCO（総所有コスト）や運用負荷の低減が期待できるという。
AITRASオーケストレーターをオープンソース化
さらにソフトバンクは、AIを用いてGPUリソースを最適化する「AITRASオーケストレーター」を開発。Dynamic Scoring Framework（DSF）と呼ばれるフレームワークを基盤とし、「AIアプリの要件や消費電力など複数の評価軸でスコアリングし、最適なGPUリソースを割り当てられる」（山科氏）技術だ。
今年2月には、このDSFをオープンソース化。AITRASオーケストレーターにおける標準機能を“共通部品”として活用できるようにすることで、パートナーやOSS（オープンソースソフトウェア）コミュニティと連携し、AI-RANエコシステムのさらなる拡大を図っていきたい考えだ。
Dynamic Scoring Framework（DSF）をオープンソース化
AITRASオーケストレーター関連でもエリクソンと協業する。具体的には、AITRASオーケストレーターと、オープンRAN（O-RAN）に準拠したSMO（Service Management and Orchestration）「EIAP（Ericsson Intelligent Automation Platform）」を連携させる。RAN側の負荷状況やAI側の処理需要などを踏まえ、動的に計算資源を配分できる世界を目指すとした。
またノキアとは、外部企業のAIワークロードをAI on RAN基盤上で実行できるか実証を進めている。これにより、外部企業は自社で計算基盤を保有することなく、AI-RAN基盤上の計算資源をオンデマンドで利用できるようになる。通信事業者にとっても、AI処理のための計算資源を外部企業に提供することで、新たな収益機会が生まれる可能性があると山科氏はアピールした。
エリクソンやノキアと協業
ソフトバンクは2024年2月、AI-RANの研究開発を加速させるため、業界団体「AI-RANアライアンス」を設立。現時点で計120の企業・団体が参画しているという。同氏は、エリクソンやノキアをはじめとする海外ベンダーを含めたエコシステムを構築することが、AI-RANの本格普及に向けて重要になると強調した。
