AIの普及フェーズはこの数年で劇的に変化した。「モデル開発」に集中していた投資は、今や「推論」環境の整備へと重心を移し、AIはあらゆる産業を横断する社会基盤へと進化しつつある。
この“社会インフラ”としてのAIを届けるうえで、決定的な役割を担うのが通信事業者だ。全国規模の通信ネットワーク、通信局舎等の物理アセット、そして長年培ってきたインフラ運用ノウハウ──、これらはいずれもAIの大規模展開に不可欠な要素である。エヌビディア ストラテジックアカウント本部 テレコム営業部長の田上英昭氏は「通信事業者がこれまで問われてきたのは『切れない通信』を提供することだったが、これからは『切れないAI』を提供できるかどうかが問われる時代になる」と話す。
エヌビディア ストラテジックアカウント本部 テレコム営業部長 田上英昭氏
分散AIデータセンターを束ねる新たな市場コンセプト
通信事業者と共にエヌビディアが作り上げようとしているのが「AI Grid」だ。モデル作成と高密度推論の実行拠点としての大規模なAIファクトリーと、全国各地に分散配置された推論拠点を、高速・低遅延のネットワークで連結した分散型AIデータセンター基盤である（図表1）。電力グリッドが発電所と家庭を結ぶように、AI Gridは規模・用途の異なる全国のコンピューティングリソースを連携させて、エンドユーザーへAIを届ける。
図表1 エヌビディアが考えるAI Grid構想
この分散型AIインフラは、二層構造で構成される。
図表1・左側の高密度AI拠点では、NVIDIA最新のアーキテクチャ「NVIDIA Blackwel GPU」や次世代の「NVIDIA Rubin GPU」が大量のテキストトークンを並列処理する。NVIDIA DGX Vera Rubin NVL72（下写真）は、1ラックにGPU72個を搭載し、バスバーによる接続でケーブルレスであり、電力効率とメンテナンス性の両面で飛躍的な進化を遂げた次世代プラットフォームだ。
ラックスケールAIスーパーコンピュータ「NVIDIA DGX Vera Rubin NVL72」。72基のRubin GPUと36基のVera CPUがNVLink 6スイッチで統合されており、1台の巨大なコンピュータとして機能する
一方、エッジ近傍の分散拠点は、「映像や音声処理、フィジカルAIといった遅延に敏感なワークロードを担う」（田上氏）。例えば、ボイスAIが音声を手前でテキスト化してから中央拠点に送信し、応答を再び音声合成して返す。ワークロードの性質や顧客との物理的距離に応じてリソースを最適配置し、それを統合的にオーケストレーションする仕組みこそが、AI Gridの本質と言える。
さらに、分散処理によるサービス提供には遅延の揺らぎがない「確定遅延」、隔離された環境でデータの機密性を保護しながら安全な計算を行うコンフィデンシャル コンピューティングのような技術要素が不可欠だと田上氏。通信事業者はこれら要素を容易にカバーできる点でも、AI Gridの担い手として適した存在だ。
