Hallo
DP-Community,
Ich will heute mal was zeigen. Einige kennen das sicher schon andere nicht.
Mir ist neulich aufgefallen, dass der Taschenrechner unter Windows XP (Vista, 7 vielleicht auch?) ein kleines Datentyp-Problem hat.
Mathematisch gesehen ergibt: sqrt(4) - 2 = 2 - 2 = 0.
Damit seid ihr alle einverstanden!
Gut jetzt zum Problem
Öffnet mal euren Taschenrechner auf dem Windows.
Gebt eine 4 ein.
Zieht die Wurzel mit sqrt.
Und dann minus 2.
Was ist das Ergebnis?
Definitiv nicht 0
Wie ist das zu erklären?
Also man gibt ja ne Integer 4 ein. Dann sqrt macht daraus eine real 2.0.
Jetzt kommt das Problem: 2.0 - 2 wird intern falsch umgewandelt und es kommt eine super kleine Zahl raus die, aber nicht 0 ist.
Jetzt glaubt man nicht mehr alles dem Taschenrechner
Unter Mac 0S X und Linux ist diese Rechnung "richtig" und es kommt tatsächlich 0 raus.
Das wars schon