Computerarithmetiek
Bij berekeningen met veel gedenormaliseerde getallen kan de verwerking op sommige processors sterk vertragen. Welke instelling wordt daarom gebruikt wanneer prestaties voorrang hebben?
- ADe instelling die resultaten en invoer die gedenormaliseerd zouden zijn als 0 beschouwt (flush-to-zero)
- BDe instelling die alle berekeningen automatisch van dubbele naar enkele precisie omzet
- CDe instelling die het programma stopt zodra een gedenormaliseerd getal wordt gevonden
Antwoord en toelichting tonen
Antwoord: A. De instelling die resultaten en invoer die gedenormaliseerd zouden zijn als 0 beschouwt (flush-to-zero)
Gedenormaliseerde getallen hebben een bijzondere vorm zonder aangenomen voorste 1 en kunnen op sommige processors niet door snelle schakelingen worden verwerkt, maar worden met microcode en dergelijke langzaam afgehandeld; dit kan tientallen keren trager zijn dan normaal. In situaties zoals audioverwerking en AI, waar waarden zeer dicht bij 0 niet nauwkeurig hoeven te worden verwerkt, houdt de instelling flush-to-zero, die gedenormaliseerde getallen als 0 behandelt, de snelheid hoog. De prijs is dat de precisie nabij 0 en de eigenschap van geleidelijke underflow verloren gaan. De precisie wordt niet over de hele linie gewijzigd en het programma wordt niet gestopt.