Was ist Auslöschung (Catastrophic Cancellation)?
Verlust signifikanter Stellen bei der Subtraktion zweier fast gleich großer Zahlen, weil sich die führenden Stellen aufheben und das relative Gewicht des vorhandenen Rundungsfehlers wächst. Man vermeidet sie durch Umformen der Formeln.
Japanische Bezeichnung: 桁落ち
Fachgebiet: Computerarithmetik