Qu'est-ce que Élimination catastrophique (perte de chiffres significatifs) ?

Phénomène où la soustraction de deux nombres presque égaux annule les chiffres de poids fort et réduit fortement le nombre de chiffres significatifs. La part relative des erreurs d'arrondi initiales devient importante. On l'évite en transformant la formule de calcul.

Nom japonais: 桁落ち

Domaine: Arithmétique des ordinateurs

Termes associés

Absorption (perte de chiffres) Additionneur à retenue anticipée Additionneur à retenue conservée (carry-save) Algorithme de Booth Arbre de Wallace Arithmétique saturée Arrondi au plus proche pair bfloat16 Décalage arithmétique Epsilon machine

Retour au glossaire