bfloat16란?
びーふろーとじゅうろく
符号1ビット、指数8ビット、仮数7ビットの16ビットの浮動小数点の形式。指数がFP32と同じなので表せる範囲が広く、精度は低いがAIの学習で使われる。FP16は指数5ビット・仮数10ビットで、精度は高いが範囲が狭い。
일본어 명칭: bfloat16
분야: 컴퓨터 산술
びーふろーとじゅうろく
符号1ビット、指数8ビット、仮数7ビットの16ビットの浮動小数点の形式。指数がFP32と同じなので表せる範囲が広く、精度は低いがAIの学習で使われる。FP16は指数5ビット・仮数10ビットで、精度は高いが範囲が狭い。
일본어 명칭: bfloat16
분야: 컴퓨터 산술