Computerarithmetiek
Welke uitspraak over verzadigingsrekenkunde (saturating arithmetic), zoals gebruikt in signaalverwerking, is juist?
- AAls het resultaat de grootste weer te geven waarde overschrijdt, blijft het op de grootste waarde in plaats van om te slaan naar de andere kant
- BAls het resultaat de grootste waarde overschrijdt, wordt automatisch het aantal bits vergroot om de exacte waarde te behouden
- CAls het resultaat de grootste waarde overschrijdt, wordt het teruggezet op 0 en opnieuw begonnen
Antwoord en toelichting tonen
Antwoord: A. Als het resultaat de grootste weer te geven waarde overschrijdt, blijft het op de grootste waarde in plaats van om te slaan naar de andere kant
Bij gewone gehele-getalbewerkingen slaat het resultaat bij overschrijding van de grootste waarde door overflow om naar de kleinste waarde; bij een ondertekend getal van 8 bit wordt 127 + 1 bijvoorbeeld −128. Bij audio of beeld geeft dit een grote fout, zoals een plotseling donker geworden helderste punt. Bij verzadigingsrekenkunde blijft het resultaat bij overschrijding van de grootste waarde op de grootste waarde (127) en bij onderschrijding van de kleinste waarde op de kleinste waarde (−128), zodat de fout klein blijft. Het wordt ondersteund door DSP- en SIMD-instructies. Het aantal bits wordt niet vergroot en het resultaat wordt niet op 0 teruggezet.