電腦算術
關於FP8的兩種格式E4M3（指數部分4・尾數3位元）與E5M2（指數部分5・尾數2位元）的使用區分，下列何者是一般作法？
- A權重與激活值使用E4M3，梯度使用E5M2
- B兩者精度與範圍相同，因此不加區分地使用
- CE4M3當作整數使用，E5M2當作浮點數使用
查看答案與解析
正確答案：A. 權重與激活值使用E4M3，梯度使用E5M2
在8位元這個有限的位元中，如何分配給指數部分與尾數，會改變其性質。E4M3的尾數多1位元，精度較高，但範圍較窄；E5M2的指數部分多1位元，範圍較廣，但精度較低。因此一般的作法是：對於大小大致整齊的權重與激活值使用E4M3，對於大小差異很大的梯度則使用E5M2。兩者都是浮點數格式，並非整數。
- A. 正確。區分使用重視精度的E4M3與重視範圍的E5M2。
- B. 指數部分與尾數的分配不同，精度與範圍也不同。
- C. 兩者都是浮點數格式。