GPUプログラミング
CUDAのストリームを複数使う主な目的はどれか。
- AGPUの冷却の風の流れを増やす
- Bデータの転送とカーネルの実行を重ねて同時に進め、全体の時間を短くする
- C動画の配信の画質を上げる
答えと解説を見る
正解：B. データの転送とカーネルの実行を重ねて同時に進め、全体の時間を短くする
ストリームは、GPUに出す処理(転送やカーネルの起動)の順番の並びです。同じストリームの中では順番どおりに実行されますが、別のストリームの処理は同時に進められます。データを分けて、1つ目の部分を計算している間に2つ目の部分を転送する、というように重ねると、転送と計算の時間の大部分が重なり、全体の時間が短くなります。
- A. 冷却とは関係ありません。
- B. 正しい。転送の時間を隠せます。
- C. 動画配信のストリームとは別の意味です。