約100のAIエージェントで月100万ドル規模 HPE、LLM利用コストを可視化

AIエージェントが推論、外部ツールの実行、結果の検証を繰り返すことで、トークン消費とインフラコストが膨らんでいる。日本ヒューレット・パッカード(HPE)が紹介した公開事例では、約100のAIコーディングエージェントが月間約6000億トークンを消費し、API利用料は月100万ドル規模に達した。同社は、AIエージェントや大規模言語モデル(LLM)の利用量・コストを可視化する「HPE OpsRamp Operations Copilot」などを通じ、AI時代のIT運用を支援する。

日本ヒューレット・パッカードは2026年10月6日、「Agentic AI時代の新しいIT運用を支えるHPEソリューション」に関するメディア向け説明会を開催。執行役員 プリセールス統括本部長 兼 Geo Chief Solution Architectの中村史彦氏が、AIエージェントの普及によって生じるIT運用上の課題と、同社の製品・サービス戦略を説明した。

(左から)日本ヒューレット・パッカード 執行役員 プリセールス統括本部長 兼 Geo Chief Solution Architect 中村史彦氏、同社 ハイブリッドソリューションズ事業統括本部 ビジネス開発本部長 小川大地氏

(左から)日本ヒューレット・パッカード 執行役員 プリセールス統括本部長 兼 Geo Chief Solution Architect 中村史彦氏、同社 ハイブリッドソリューションズ事業統括本部 ビジネス開発本部長 小川大地氏

エージェンティックAIとは、AIエージェントが目的に応じて計画を立て、データや業務アプリケーション、外部のAPIなどへアクセスし、処理の実行と結果の検証を繰り返す仕組みである。複数のAIエージェントが人やシステムと連携して業務を遂行する企業を、HPEは「Agentic Enterprise」と位置付ける。

McKinseyの調査によると、AIエージェントを本格展開している大企業の割合は、2025年の27%から2026年には40%へ上昇した。年間売上高10億ドルを超える企業を対象とした調査で、1年間に約1.5倍となったという。

Agentic AIの本格展開により、AI利用は新たなフェーズへ

Agentic AIの本格展開により、AI利用は新たなフェーズへ

中村氏は、企業に求められる変化を「『AIを動かすIT』から、『AIとともに判断・最適化するインテリジェントなIT』へ」と表現した。

推論が学習を逆転へ CPUとネットワークの重要性も増す

国内のAIサーバー市場では、処理の中心が学習から推論へ移りつつある。HPEが引用したIDC Japanの予測では、2027年に推論向けの支出が学習向けを上回る。

従来の生成AIは、利用者からの質問にモデルが回答する一問一答型が中心だった。一方、エージェンティックAIでは、複数のAIエージェントが推論、外部ツールの実行、結果の検証、再試行を繰り返すため、処理するトークンの量が増える。

約100のAIコーディングエージェントを並列稼働させた公開事例では、30日間に760万件のリクエストを処理し、月間約6030億トークンを消費した。API利用料は月100万ドル規模に達したという。

中村氏は、「エージェンティックAIの本格展開で、トークンエコノミクスが新たな課題になる」と指摘した。利用量だけでなく、モデルごとのコストやキャッシュ効率を継続的に管理する必要があるという。Goldman Sachsの予測では、月間のトークン処理量は2026年から2030年にかけて24倍に増え、12京トークンに達する。

推論やAIエージェントの制御を担うCPUの需要も拡大する。HPEが示した予測では、CPUとGPUの構成比は、学習中心の環境における1対8程度から、エージェンティックAIでは1対1程度へ変化する。

AIの負荷は、スタック全体にわたる

AIの負荷は、スタック全体にわたる

複数のAIエージェントがデータやアプリケーションへ動的にアクセスするため、ネットワークの応答速度や処理能力、信頼性への要求も高まる。誰が動かしているエージェントか、何を実行できるか、異常時に停止・隔離できるかを管理する仕組みも必要になるという。

続きのページは、会員の方のみ閲覧していただけます。

RELATED ARTICLE関連記事

SPECIAL TOPICスペシャルトピック

スペシャルトピック一覧

NEW ARTICLES新着記事

記事一覧

FEATURE特集

WHITE PAPERホワイトペーパー

ホワイトペーパー一覧
×
無料会員登録

無料会員登録をすると、本サイトのすべての記事を閲覧いただけます。
また、最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。