SPECIAL TOPICGPUに従来型Ethernetは役不足 生成AI時代のDCネットワークとは?

生成AI時代に突入し、データセンターではGPUへの投資が急拡大している。だが、カギを握るのはGPUだけではない。ネットワークの変革も不可欠だ。なぜなら、大量のGPUサーバーによる並列分散処理が不可欠な生成AIのパフォーマンスは、GPUサーバー間をつなぐネットワークに大きく左右されるからである。

(左から)エヌビディア エンタープライズ マーケティング マーケティングマネージャー 愛甲浩史氏、マクニカ クラビスカンパニー 第1技術統括部 技術第3部長 北島佑樹氏、エヌビディア ネットワーキングプロダクトマーケティング ディレクター HPC/AI アンド テクニカルコンピューティング 岩谷正樹氏

(左から)エヌビディア エンタープライズ マーケティング マーケティングマネージャー 愛甲浩史氏、マクニカ クラビスカンパニー 第1技術統括部 技術第3部長 北島佑樹氏、エヌビディア ネットワーキングプロダクトマーケティング ディレクター HPC/AI アンド テクニカルコンピューティング 岩谷正樹氏

生成AIが世の中を席巻している。生成AIの力を使って、いち早くビジネスを革新した企業が、時代の一歩先を行くと言っても過言ではないが、そうしたなか生成AIを支えるインフラであるデータセンター(DC)への大規模投資が相次いでいる。主役はもちろんGPUだ。

生成AIに必要なコンピューティング能力は、従来のアプリケーションとは質・量ともに桁違いであり、大量のGPUを用いた高速な並列分散処理が欠かせないからである。

「例えば、Meta社が開発したオープンソースLLMのLLaMAの場合、650億パラメーターのモデルの学習に、エヌビディアの当時のフラッグシップGPUサーバー2048台を用いても21日かかりました。1台あたりGPUを8基搭載しており、GPU数では約1万6000基です」

マクニカでDCインフラの構築・運用を支援している北島佑樹氏はこう話したうえで、「コンピューティング能力=競争力の時代が到来しているのです」と強調する。生成AI時代をリードするためには、まずコンピューティング能力でリードしなければならない。

そこでGPU需要が急増しているわけだが、実はGPUへの投資だけでは生成AI用のコンピューティング能力は十分に高められない。「ネットワークも含めてDCインフラをアプリケーションドリブンに変えていく必要があります」とエヌビディアの愛甲浩史氏は指摘する。

変わるネットワークの使い方 生成AI時代は計算資源の1つ

生成AI時代、DCネットワークも変わる必要があるのは、ネットワークの位置付け自体が変化したからだという。

続きのページは、会員の方のみ閲覧していただけます。

RELATED ARTICLE関連記事

SPECIAL TOPICスペシャルトピック

スペシャルトピック一覧

NEW ARTICLES新着記事

記事一覧

FEATURE特集

WHITE PAPERホワイトペーパー

ホワイトペーパー一覧
×
無料会員登録

無料会員登録をすると、本サイトのすべての記事を閲覧いただけます。
また、最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。