Was ist Auslöschung (Catastrophic Cancellation)?

Verlust signifikanter Stellen bei der Subtraktion zweier fast gleich großer Zahlen, weil sich die führenden Stellen aufheben und das relative Gewicht des vorhandenen Rundungsfehlers wächst. Man vermeidet sie durch Umformen der Formeln.

Japanische Bezeichnung: 桁落ち

Fachgebiet: Computerarithmetik

Verwandte Begriffe

Absorption (Gleitkomma) Arithmetische Verschiebung bfloat16 Booth-Algorithmus Carry-Lookahead-Addierer Carry-Save-Addierer Denormalisierte Zahl (Subnormal) Exponentenfeld Festkommadarstellung (Fixed Point) FP8

Zurück zum Glossar