インターフェース・バス規格
AI向けのGPUを多数つなぐシステムで、PCI Expressとは別の、GPUどうしを結ぶ専用の高速な接続(NVIDIAのNVLinkなど)が使われる主な理由はどれか。
- APCI Expressでは、GPUを1つもつなげないから
- B専用の接続を使うと、GPUのメモリが不要になるから
- C大きなモデルの学習ではGPUどうしで大量のデータを交換するので、PCI Expressより大きな帯域が必要だから
答えと解説を見る
正解：C. 大きなモデルの学習ではGPUどうしで大量のデータを交換するので、PCI Expressより大きな帯域が必要だから
大きなAIモデルを複数のGPUで学習すると、計算の途中で勾配やパラメータ、途中の結果をGPUどうしで頻繁にやり取りします。この通信が遅いと、GPUは計算を止めて待つことになります。GPUどうしを結ぶ専用の接続は、多数の高速なSerDesのレーンを束ね、PCI Expressより何倍も大きな帯域で直接データを交換できるようにしています。
- A. GPUは普通PCI Expressでつながっています。
- B. GPUのメモリは引き続き必要です。
- C. 正しい。GPUの間の通信が性能の制約になりやすいからです。