混合精度란?

こんごうせいど

計算の部分ごとに違う精度の数値を使うこと。掛け算をFP16などで行い、累積をFP32で行って、速さと精度を両立させる。

일본어 명칭: 混合精度

분야: GPU 프로그래밍