野村総合研究所（NRI）は2025年3月25日、AIをテーマにしたメディア説明会を開催。DX基盤事業本部 IT基盤技術戦略室 チーフリサーチャーの藤吉栄二氏が「AI向け次世代コンピューティング」について説明した。

AIコンピューティングの基本的仕組みからDeepSeek以降の動向まで、話題は多岐にわたったが、重要なキーワードの1つとして、藤吉氏が繰り返し言及したのが「AI ASIC」についてである。

AI時代の本格化を見据え、様々なプレイヤーが「AI ASICを使って、データセンターの運用効率化や、AI処理の高速化を行おうと取り組んでいる」という。

著名AI ASICスタートアップのCEOも「学習はGPUで行われるべき」

「Graphics Processing Unit」という名称の通り、元々は画像処理用だったGPUに対して、AI ASICはAI向けに開発された専用プロセッサーとなる。「有名なところで言うと、グーグルは2015年、2016年ぐらいからAI ASICの開発を進めており、今、第7世代の開発を進めている状況だ」

AI ASICを開発するのはビッグテックだけでない。スタートアップの参入も盛んで、藤吉氏はグーグルのAI ASICであるTPUを開発したエンジニアが起業したGroq、ソフトバンクグループが買収したGraphCoreなどを紹介した。

AI ASICは、プログラミングの汎用性はGPUより低いものの、エネルギー効率ではGPUより優れている。GPUは、GPU内の1次メモリーであるHBM（広帯域メモリー）にデータを転送して並列処理を実行する。一方、例えばグーグルのTPUは、行列乗算処理中に外部メモリーへアクセスしないため、データの移動距離を短縮でき、エネルギー消費を抑えながら推論の高速処理が行えるという。

推論の高速処理に向いているAI ASIC。ソフトバンクとの協業を今年3月に発表しているSambaNova Systemsの場合、DeepSeek-R1のAI基盤モデルをラック1本に実装可能だという

このように異なる特徴を持つことから、AI ASICがGPUに取って代わるという単純な話ではない。「『GPUとAI ASICのどっちがいいのか』ということに関しては、まだまだ決着が付かない。というか、エヌビディアの決算発表でもGPUの受注残は多いということだし、GPUの需要は当面続く」

前述のAI ASICスタートアップ、GroqのCEOを務めるジョナサン・ロス氏は、あるインタビューに次のように答えているという。「学習はGPUで行われるべき」「推論が多ければ多いほど、必要なトレーニングも増えるし、その逆もまた同様」

AI ASICによって推論を高速・高効率に行えるようになればなるほど、学習用のGPU需要も高まるということだ。

藤吉氏によると、経済学では、資源効率が向上すると市場も広がり、結果的に資源の消費量が増える「ジェボンズ・パラドックス」が知られている。このジェボンズ・パラドックスはAIコンピューティングにも当てはまり、AIが利用しやすくなればなるほど、AI半導体全体の需要が増加していくというのが藤吉氏の見方だ。エネルギー消費についても同様である。「確かに（AI半導体の）エネルギー効率は良くなっていくが、エネルギーの総量としては高まっていくのではないか」