Computerarithmetiek
Wat is de machine-epsilon (het verschil tussen 1 en het eerstvolgende weer te geven getal groter dan 1) bij IEEE 754 met enkele precisie?
- A2⁻²³ (circa 1,19 × 10⁻⁷)
- B2⁻⁸ (circa 3,9 × 10⁻³)
- C2⁻⁵² (circa 2,2 × 10⁻¹⁶)
Antwoord en toelichting tonen
Antwoord: A. 2⁻²³ (circa 1,19 × 10⁻⁷)
1,0 wordt weergegeven als 1,000…0 × 2⁰ en de mantisse heeft 23 bit, dus het volgende getal na verhoging van het minst significante mantissebit met 1 is 1 + 2⁻²³. Dit verschil 2⁻²³ ≈ 1,19 × 10⁻⁷ is de machine-epsilon en geeft aan dat de relatieve precisie van enkele precisie ongeveer 7 cijfers is. 2⁻⁵² is de machine-epsilon van dubbele precisie met een mantisse van 52 bit. 2⁻⁸ verwart met het aantal exponentbits. Deze waarde dient ook als richtlijn voor de tolerantie bij het vergelijken van drijvendekommagetallen.