CPU與架構
GPU 適合矩陣運算以及 AI 訓練與推論的主要原因為何?
- A因為時脈頻率是 CPU 的 100 倍以上
- B因為具有大量單純的運算單元,能平行處理大量資料
- C因為沒有記憶體
查看答案與解析
正確答案:B. 因為具有大量單純的運算單元,能平行處理大量資料
GPU 原本是為了同時處理螢幕上的大量像素,因此其結構是並排數千〜上萬個以上的單純運算單元。像矩陣運算這種對大量資料重複相同計算的處理,可藉由這種平行性發揮高效能。近年來 GPU 配備了矩陣運算專用單元(Tensor Core 等)與高頻寬的 HBM,已成為 AI 訓練的主角。分支多的循序處理則是 CPU 較為擅長。