電腦算術
以三選一題型學習定點數、IEEE 754浮點數(正規化、非正規化數、捨入、特殊值)、捨入誤差與有效位數損失、bfloat16與INT8、乘法器與先行進位加法器。
—你的答對率
0 / 0已作答的題目
這個領域的題目準備中。
電腦算術的重點
電腦以有限的位元表示數字,因此可表示的範圍與精度有限。相對於固定小數點位置的定點數,IEEE 754浮點數將數字分為符號、指數、尾數,可表示從非常小到很大的數。了解正規化、非正規化數、捨入模式,以及無限大與NaN等特殊值的處理方式相當重要。
浮點運算會產生捨入誤差,相近的數相減時,有效位數減少的有效位數損失(catastrophic cancellation)也會發生。AI會使用bfloat16、FP16、FP8、INT8等較短的格式。除了數的表示方式之外,也要學習乘法器、除法器、先行進位加法器等以硬體實現算術運算的電路架構。