「通信融合でAI推論需要取り込む」KDDI 佐藤氏・桜井氏

KDDI AI・クラウドサービス企画部 副部長の佐藤康広氏(左)と、AIプラットフォーム企画部 部長の桜井敦史氏

KDDI AI・クラウドサービス企画部 副部長の佐藤康広氏(左)と、AIプラットフォーム企画部 部長の桜井敦史氏

4月1日から「KDDI GPU Cloud」の正式サービスを開始しました。NVIDIA GB200 NVL72というラックスケール型のGPUを提供するサービスです。

最大の強みは大阪堺DCの規模と適性です。工場だった広大な敷地を転用しており、水冷や大規模な電力要件にも対応できます。

GB200 NVL72は水冷が必須のシステムで、1ラックの消費電力が130kWに達します。既存DCの改修では対応が難しく、現在、国内でGB200 NVL72を正式に提供しているのは我々含めて数社のみ。ハイパースケーラーも日本リージョンでは提供できていません。データ主権を重視してAIモデル開発を行うスタートアップや研究機関、エンタープライズにとって選択肢は限られています。

NVL72の技術的な特徴は、72基のGPUが高速接続技術のNVLinkでつながっており、1つの大きなGPUとして機能することです。他事業者が複数台のサーバーをクラスタリングして提供しているのとは異なるアーキテクチャであり、トライアルのお客様からはB200と比べて3倍程度のパフォーマンス向上が確認されています。

通信事業者の強みも活かしています。広域ネットワークサービス「KDDI WVS」を使ってユーザーの拠点を最大100Gbpsで大阪堺DCに直結できるほか、各ハイパースケーラーとも閉域接続できます。ハイパースケーラーを利用している顧客は、そこで保持・管理しているデータを使って我々のGPUクラウドで学習するというシナリオにも対応できます。

地域の通信局舎で推論サービス

現状は、AIモデルの開発・学習用途がメインです。研究機関、AIスタートアップ、金融や製造業などです。

今後は、通信局舎を活用した推論サービスの展開も重要な戦略と考えています。今年2月には宮崎に新たな通信局舎を開設。東京エリアでも2027年秋に新局舎の開設に向けて投資を進めています。

これらの拠点では各地域の通信ネットワークのコア機能を運用し、その近くにAIサーバーを置くことで、数ミリ秒から10ミリ秒程度の低遅延で推論サービスを提供できます。推論需要が本格化した時代に、この全国に張り巡らされたネットワークインフラと組み合わせることが、通信事業者ならではの差別化になると考えています。

加えて、我々は3300万人の個人ユーザーと40万社の企業とのタッチポイントを持っています。通信サービスと一緒にAIインフラを提案できるのは、ハイパースケーラーにはない強みです。

そのAI推論の需要はいつ頃立ち上がるのか。ChatGPT等を活用した業務効率化はすでに広まりつつあり、そこから画像・ビジョン系の推論、AIエージェント活用へと段階的に発展していくと見ています。低遅延性を活かせるフィジカルAIの領域については、2025年度に実証を始めています。

AIモデル開発は一部の大手テックやスタートアップに限られていましたが、今後はそれを活用したAIサービスが広がっていきます。推論こそが成長ドライバーになる。推論インフラとネットワークをセットで提供していくのがKDDIの戦略です。

月刊テレコミュニケーション 2026年5月号の記事を再構成]

無料会員登録

無料会員登録をすると、本サイトのすべての記事を閲覧いただけます。
また、最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。