什麼是運算強度（Arithmetic intensity）

以處理的運算次數除以從記憶體讀寫的位元組數所得的值。越大越容易受運算限制，越小越容易受記憶體限制。

日文名稱: 演算強度

「運算強度（Arithmetic intensity）」出現在1領域的1道練習題中（CPU與架構等）。

這個名詞所屬的領域: AI硬體與軟體堆疊

練習運算強度（Arithmetic intensity）的題目

以運算強度（每位元組的運算數）為橫軸，圖示程式效能是受運算效能還是記憶體頻寬所限制的模型是下列何者？

  1. A阿姆達爾定律
  2. B屋頂線模型（roofline model）
  3. C帕松模型（Poisson model）
查看答案與解析

正確答案：B. 屋頂線模型（roofline model）

在屋頂線模型中，橫軸取運算強度（從記憶體每讀取 1 位元組所做的運算數），縱軸取效能。運算強度低的處理會受記憶體頻寬限制而到達上限（斜線），運算強度高的處理則受峰值運算效能限制而到達上限（水平線）。例如頻寬為 1 TB/s、運算效能為 100 TFLOPS 時，運算強度低於 100 FLOP/位元組的處理屬於受記憶體限制。它用於判斷改善的方向（資料重複使用還是提高運算效率）。

解析中的「運算強度（Arithmetic intensity）」

出現「運算強度（Arithmetic intensity）」的題目（1題）

  1. 以運算強度（每位元組的運算數）為橫軸，圖示程式效能是受運算效能還是記憶體頻寬所限制的模型是下列何者？

相關名詞

反向傳播（Backpropagation） 全歸約（All-reduce） 批次大小（Batch size） 注意力機制（Attention mechanism） 知識蒸餾（Knowledge distillation） 計算圖（Computational graph） 訓練後量化（Post-training quantization） 剪枝（Pruning） 張量平行（Tensor parallelism） 推測式解碼（Speculative decoding）

前往名詞解釋列表