|
Registriert seit: 4. Dez 2006
Ort: Vöhrenbach
15 Beiträge
|
Re: trunc liefert nicht das erwartete Ergebnis
23. Mär 2010, 15:03
Zitat von blink182:
Das liegt halt an der internen Darstellung von Gleitkommazahlen.
IEEE 754 
 http://www.h-schmidt.net/FloatApplet/IEEE754de.html z.b.
was dezimal 0.61 ist, ist mit Doublegenauigkeit noch lange nicht 0.61, sondern 0.6100000143051147 -> also muss exakte
von 0.61d etwas kleiner sein als 0.61 und wird somit, mit trunc(x*100) als 60 interpretiert...
Nun ja, so was in der Art wird es sein. Ich werd eine für mich geeignete Lösung finden!
Thomas
Zitat Stromberg S03E08 - Erika:
"So...selbst die Capitolmatratze, die hier auf jedem Karosseplan umgerutscht ist, was will sie von mir? Zahlen. Aber so ist das. Als Chef in meiner Position, da bist du so einsam wie...Gott."
|