Numerical Analysis.

Man kunne have et program, hvori der indgik forskellige "Recommended IEEE formats", altså formater med forskelligt antal betydende bits i mantissen. Man kunne have to formater, her kaldet double og single precision.

Spørgsmålet går så på, at hvis programmet under afvikling sætter en single = en double, ved blot at kaste de overflødige bits overbord, i stedet for at runde de tilbageværende bits i mantissen korrekt af, hvilken afrundingsfejl ville der så opstå?

Det er lidt svært at svare på, da det afhænger af hvilke regneoperationer denne afrundingsfejl gennemløber: Nogle steder vil en afrundingsfejl være kritisk, andre steder mindre kritisk:

En afrundingsfejl på værdien log(x) kan være betydeligt mere kritisk end en afrundingsfejl på værdien x⁴.

Hvad menes der med "unit round of " ?

Du kan evt lave noget simpel statistik på spørgsmålet.

Jeg antager for nemheds at der alene regnes med positive tal. I så fald vil resultatet i gennemsnit blive for lavt. En datamaskine regner grundlæggende i 2-tals systemet så det sidste ciffer er altid enten 0 eller 1. Hvis det er helt tilfældigt om der rundes ned kan du regne med at med sandsynligheden ½ bliver der rundet ned. Ud fra det kan du så beregne hvor meget, der i gennemsnit bliver rundet ned samt finde spredningen for n beregninger. Det bliver en binomialfordeling men for store n kan du tilnærme med normalfordelingen. Du kan også finde hvor meget de sidste cifre maksimalt bliver forkert.

NB dette gælder kun hvis du holder dig til positive tal. I nogle tilfælde for eks, lineære ligninger kan man komme ud for at skulle trække omtrent lige store tal fra hinanden med det resultat at man hurtigt ender med at regne på afrundningsfejlene. Man anbefaler derfor at man som minimum gør prøve for at teste om resultatet er rimelig. Et eksempel på at det kan gå galt er DMI's vejrprognoser

Du vil få round off towards zero. Unit round off er det mindste tal, ε, du skal lægge til 1 for at 1 + ε ≠ 1. Med round off towards zero bliver tallet dobbelt så stort som med correct rounding.