什麼是張量核心（Tensor core）

以一個指令一併計算小型矩陣之間乘加的 GPU 運算單元。主要用於低精度數值，可大幅加速 AI 的運算。

日文名稱: テンソルコア

「張量核心（Tensor core）」出現在1領域的1道練習題中（CPU與架構等）。

這個名詞所屬的領域: GPU程式設計

練習張量核心（Tensor core）的題目

GPU 適合矩陣運算以及 AI 訓練與推論的主要原因為何？

  1. A因為時脈頻率是 CPU 的 100 倍以上
  2. B因為具有大量單純的運算單元，能平行處理大量資料
  3. C因為沒有記憶體
查看答案與解析

正確答案：B. 因為具有大量單純的運算單元，能平行處理大量資料

GPU 原本是為了同時處理螢幕上的大量像素，因此其結構是並排數千〜上萬個以上的單純運算單元。像矩陣運算這種對大量資料重複相同計算的處理，可藉由這種平行性發揮高效能。近年來 GPU 配備了矩陣運算專用單元（Tensor Core 等）與高頻寬的 HBM，已成為 AI 訓練的主角。分支多的循序處理則是 CPU 較為擅長。

解析中的「張量核心（Tensor core）」

出現「張量核心（Tensor core）」的題目（1題）

  1. GPU 適合矩陣運算以及 AI 訓練與推論的主要原因為何？

相關名詞

GPU HBM(高頻寬記憶體) 平行歸約（Parallel reduction） 共享記憶體（GPU shared memory） 串流多處理器（Streaming multiprocessor） 佔用率（GPU occupancy） 固定記憶體（Pinned memory） 延遲隱藏（Latency hiding） 前綴和（Prefix sum） 記憶體合併存取（Memory coalescing）

前往名詞解釋列表