Computerarithmetiek
Hoe heet het verschijnsel waarbij bij het aftrekken van twee bijna gelijke drijvendekommagetallen de significante cijfers sterk afnemen?
- AInformatieverlies (absorptie)
- BOverflow
- CCancellation (uitdoving van cijfers)
Antwoord en toelichting tonen
Antwoord: C. Cancellation (uitdoving van cijfers)
Bij een berekening met 7 significante cijfers, zoals 1,234567 − 1,234566 = 0,000001, heffen de 6 hoogste cijfers elkaar op en blijft in het resultaat slechts 1 significant cijfer over. De kleine afrondfouten in de oorspronkelijke getallen worden dan relatief zeer groot ten opzichte van het resultaat. Dit is cancellation; een tegenmaatregel is de formule om te werken zodat het aftrekken van bijna gelijke getallen wordt vermeden. Informatieverlies (absorptie) is een ander verschijnsel waarbij bij het optellen van getallen van verschillende grootte de cijfers van het kleinste verloren gaan.