Rekenkunde waarbij, als het resultaat buiten het representeerbare bereik valt, de waarde bij het maximum of minimum blijft in plaats van met overflow naar de andere kant om te slaan. Gebruikt in audio- en beeldsignaalverwerking om grote fouten te voorkomen.
Japanse benaming: 飽和演算
“Verzadigingsrekenkunde (saturating arithmetic)” komt voor in 1 oefenvragen uit 1 onderwerpen, bijv. Computerarithmetiek.
Vakgebied: Computerarithmetiek
Antwoord: A. Als het resultaat de grootste weer te geven waarde overschrijdt, blijft het op de grootste waarde in plaats van om te slaan naar de andere kant
Bij gewone gehele-getalbewerkingen slaat het resultaat bij overschrijding van de grootste waarde door overflow om naar de kleinste waarde; bij een ondertekend getal van 8 bit wordt 127 + 1 bijvoorbeeld −128. Bij audio of beeld geeft dit een grote fout, zoals een plotseling donker geworden helderste punt. Bij verzadigingsrekenkunde blijft het resultaat bij overschrijding van de grootste waarde op de grootste waarde (127) en bij onderschrijding van de kleinste waarde op de kleinste waarde (−128), zodat de fout klein blijft. Het wordt ondersteund door DSP- en SIMD-instructies. Het aantal bits wordt niet vergroot en het resultaat wordt niet op 0 teruggezet.
Bij verzadigingsrekenkunde blijft het resultaat bij overschrijding van de grootste waarde op de grootste waarde (127) en bij onderschrijding van de kleinste waarde op de kleinste waarde (−128), zodat de fout klein blijft.
Welke uitspraak over verzadigingsrekenkunde (saturating ari…SIMD Afronden naar even (round to nearest even) bfloat16 Booth-algoritme Cancellation (verlies van significantie) Carry-lookahead-opteller Carry-save-opteller (CSA) Exponent FMA (fused multiply-add) FP8