什麼是Roofline 模型（Roofline model）

將可達成的效能表示為「峰值效能」與「記憶體頻寬×運算強度」中較小者的模型。用於分辨處理是受運算限制還是受記憶體限制。

日文名稱: Rooflineモデル

「Roofline 模型（Roofline model）」出現在1領域的1道練習題中（效能評估與效能剖析等）。

這個名詞所屬的領域: AI硬體與軟體堆疊

練習Roofline 模型（Roofline model）的題目

在屋頂線模型（Roofline model）中，得知某處理位於受記憶體頻寬限制的區域時，提升效能的方向下列何者正確？

  1. A只考慮增加運算單元
  2. B什麼都不做，隨著時間經過也會自然變快
  3. C透過增加資料的重複利用等來提高運算強度，或是減少記憶體讀寫的量
查看答案與解析

正確答案：C. 透過增加資料的重複利用等來提高運算強度，或是減少記憶體讀寫的量

在屋頂線圖中，位於斜線下方的處理，其效能上限是由記憶體頻寬決定。增加運算單元，上限也不會改變。藉由分塊或運算融合（fusion）反覆使用資料，增加每位元組的運算數（運算強度），處理就會往圖的右方移動，上限也隨之提高。降低資料的精度以減少讀寫量，也有相同的效果。

出現「Roofline 模型（Roofline model）」的題目（1題）

  1. 在屋頂線模型（Roofline model）中，得知某處理位於受記憶體頻寬限制的區域時，提升效能的方向下列何者正確？

相關名詞

運算融合（Operator fusion） 運算強度（Arithmetic intensity） 反向傳播（Backpropagation） 全歸約（All-reduce） 批次大小（Batch size） 注意力機制（Attention mechanism） 知識蒸餾（Knowledge distillation） 計算圖（Computational graph） 訓練後量化（Post-training quantization） 剪枝（Pruning）

前往名詞解釋列表