GPU程式設計

關於近年GPU所搭載的張量核心(Tensor Core,矩陣運算單元)的特徵,下列何者正確?

  1. A以一個指令一併計算小矩陣之間的乘加,主要以低精度的數值大幅加快AI的計算
  2. B是用來測量張量這個物理量的感測器
  3. C是繪製圖形陰影的專用電路
查看答案與解析

正確答案:A. 以一個指令一併計算小矩陣之間的乘加,主要以低精度的數值大幅加快AI的計算

張量核心是能以一個指令一次進行如4×4或16×16這類小矩陣的乘法與加法的運算單元。與以一般運算單元逐次進行乘法與加法相比,在相同的面積與功耗下能完成數倍的計算。多半以FP16、BF16、FP8、INT8等低精度使用,能大幅加快佔神經網路訓練與推論大部分的矩陣乘積。

  • A. 正確。是專門用於矩陣乘積的運算單元。
  • B. 不是感測器。
  • C. 不是用來繪製陰影的電路。
練習這個領域 前往領域頁面

GPU程式設計的其他題目

  1. 在GPU的混合精度計算中,常以FP16等低精度進行乘法,而以FP32進行加總(累加)。下列何者是其正確的理由?
  2. 以GPU求取相同資料的浮點數總和時,每次執行結果的最後一位數都略有不同。下列何者是最可能的原因?
  3. 在CUDA中決定每個區塊的執行緒數量時,下列何者是正確的一般準則?
  4. 以上述的迴圈(網格步幅迴圈,grid-stride loop)撰寫核心函式的優點,下列何者正確?
  5. CUDA的常數記憶體(constant memory)在何種存取時運作得特別快?

這個領域的比較