컴퓨터 산술
고정소수점, IEEE 754 부동소수점(정규화, 비정규수, 반올림, 특수값), 반올림 오차와 상쇄, bfloat16과 INT8, 곱셈기와 carry-lookahead 가산기를 객관식 문제로 학습합니다.
—내 정답률
0 / 0푼 문제 수
이 분야의 문제는 준비 중이에요.
컴퓨터 산술: 핵심 정리
컴퓨터는 유한한 비트 수로 숫자를 표현하므로 범위와 정밀도에 한계가 있습니다. 고정소수점은 소수점 위치를 고정하는 반면, IEEE 754 부동소수점은 수를 부호, 지수, 가수로 나누어 매우 작은 값부터 매우 큰 값까지 표현합니다. 정규화, 비정규수, 반올림 모드, 무한대와 NaN 같은 특수값을 이해하는 것이 중요합니다.
부동소수점 계산에는 반올림 오차가 따르며, 거의 같은 두 수를 빼면 유효 숫자가 사라지는 상쇄(cancellation)가 발생합니다. AI에서는 bfloat16, FP16, FP8, INT8 같은 짧은 형식을 사용합니다. 이 주제는 수 형식과 함께 곱셈기, 나눗셈기, carry-lookahead 가산기처럼 하드웨어로 산술을 구현하는 회로도 다룹니다.