在推薦系統的模型等所使用的大型嵌入表（embedding table）之查表，難以用AI硬體處理，其原因下列何者正確？

正確答案：C. 因為幾乎沒有計算，而是讀取巨大表中零散的位置，所以無法發揮矩陣運算單元，速度由記憶體的容量、頻寬與延遲決定

在推薦系統中，為使用者或商品等的每個ID持有向量的表可達數百GB，每筆輸入都要讀取表中零散的列再加總。幾乎沒有計算，讀取又不規則，合併存取與快取都難以發揮作用，與擅長矩陣相乘的加速器所擅長的形態大不相同。必須將表分散放在多顆GPU或CPU的記憶體上，設法確保記憶體的容量與頻寬。

• A. 查表以讀取為主，乘法很少。
• B. 可達數百GB，無法放進晶片。
• C. 正確。關鍵在於記憶體的機制，而不是運算單元。