Grobe FPU Fehler (Gerd Lamprecht)

   

Home...

Einleitung

Es geht hier nicht um einfache Rundungsfehler oder Folgefehler (Fehlerfortpflanzung), sondern um grobe Fehler der Hersteller von Koprozessoren (floating-point unit = FPU; neue CPUs haben bereits FDIV, FSIN usw. integriert) und Browser.
Das häufigste Gleitkommaformat lautet Double (64-bit double-precision number), wo etwa 15 dezimale Stellen richtig sein sollten.

§1 Pentium-FDIV-Bug

Wiki-Beschreibung hier oder engl. computerhope.com.
Online Berechnung per Iterationsrechner zeigt die fehlerhaften Nachkommastellen bei einigen Pentium FPUs schon ab der 3. Stelle rot markiert:
Kombination Pentium + IE6:

§2 grobe FSIN Ungenauigkeit (large inaccuracy by FSIN)

Auch beim FSIN Befehl gibt es bis heute viele Ungenauigkeiten weit vor der 15. Nachkommastelle. Gemeint sind nicht die leichten Abweichungen, die als einfache Rundungsfehler orange markiert sind, sondern die ROT markierten:
Kombination i7 + IE11:


Kombination AMD + IE11:


Kombination i7 + Chrome Version28 (eigene Softwareberechnungen teils schlechter):


Kombination AMD + Chrome Version38 (eigene Softwareberechnungen teils besser):


Kombination Apple iPad + Safari:



Und hier der reine ASM-Befehl FSIN mit 80Bit (unabh. vom Betriebssystem und Browser):




§3 Liste der numerischen Genauigkeit von Taschenrechner (richtige Nachkommastellen auch Online-Rechner)



Mehr zu sin(22 rad)
Noch mehr Nachkommastellen mit teurer Software (Mathematica, Maple,...) oder Geschwindigkeitsvergleich (Benchmark) 3^x sehr große Zahlen