NVIDIAネットワーク製品責任者が語るAIデータセンター向けネットワークの重要性と次世代技術

AI時代における半導体産業の勝者であるNVIDIAの強みは、GPUとCUDAだけではない。複数のGPUを1つのGPUとして扱える技術と、それを支えるネットワークコントローラが重要な要素となっている。今回、NVIDIAネットワーキング担当上級副社長ギラッド・シャイナー氏へのインタビューから、同社のネットワーク製品の特徴と将来性について紹介する。

CUDAによる複数GPU統合がAI学習で重要な理由

AI学習にNVIDIA GPUが採用される最大の理由は、スケーラビリティにあると記事では報じられている。AIモデルを構築するには膨大な量のデータを利用した学習が必要で、これには膨大な時間がかかるため、研究者たちが2010年代半ばにCPUからGPUに切り替えたとのことだ。

NVIDIAは2006年にCUDAを導入した際、複数のGPUをクラスターとして利用できる仕組みを採用したと報じられている。これにより、GPUが1基でも512基でも、ソフトウェアからは1つのGPUとして見え、ソフトウェア開発者がハードウェアの詳細を知らなくても、GPU数を増やすだけで性能が向上するようになったとのことだ。

ネットワーク性能がGPUクラスターの鍵を握る

ハードウェアの視点では、性能を低下させないためにGPU間を接続するインターコネクトやネットワークの性能が重要になると、シャイナー氏は説明している。これらの性能が低いと、「GPUがインターコネクトやネットワークの先にある、ほかのGPUの処理が終わるまで待たないといけなくなり、その間GPUはただ待っているだけになる」と同氏は述べている。

記事によると、NVIDIAは3つのスケーリング手法を提供している。スケールアップ（ラック内でのクラスター化）、スケールアウト（ラック間のクラスター化）、そしてスケールアクロス（クラスターのさらなるクラスター化）だ。

第6世代NVLinkで帯域幅が3.6TB/秒に向上

スケールアップには、NVLinkと呼ばれるインターコネクトが利用されていると報じられている。現在のBlackwell世代では第5世代NVLinkが提供され、1.8TB/秒の帯域幅を実現しているが、1月のCESで発表された次世代GPU「Rubin」では第6世代へと強化され、帯域幅は3.6TB/秒へと倍増するとのことだ。

NVLinkには、NVLink Switchというスイッチコントローラが提供されており、複数のインターコネクトから構成されるネットワークを切り替えて活用できるようになると記事では説明されている。これにより、理論上はすべてのネットワークでフルの帯域幅を確保でき、効率的なスケールアップが可能になるとのことだ。

コスト効率を考慮した段階的なスケーリング戦略

記事によると、NVLink SwitchのコストはEthernetスイッチなどに比べて高価であり、必要以上にスケールアップすると費用対効果が下がってしまうという。そのため、ある程度の台数まではNVLinkとNVLink Switchでスケールアップし、その後はInfiniBandやEthernet（現状1ポートで最大800Gb/秒）などでスケールアウトするのが一般的だと説明されている。

現状では、NVIDIA自身の標準的なラックデザインとなるGB200 NVL72、Vera Rubin NVL72のように、CPU36基/GPU72基までという構成が採用されているとのことだ。