Einzelnen Beitrag anzeigen

Blup

Registriert seit: 7. Aug 2008
Ort: Brandenburg
1.429 Beiträge
 
Delphi 10.4 Sydney
 
#2

Re: Runden liefert falsches Ergebnis

  Alt 18. Dez 2009, 15:21
Gebrochene Fließkommazahlen lassen sich mit verschiedenen Exponenten darstellen.
Je nach vorherigen Operationen und Exponent treten Ungenauigkeiten auf.

Statt 290,325 kann die Variable intern auch z.B. 290,324999999998 enthalten.
Bei der Umwandlung in einen String wird das natürlich ausgeglichen und die Anzeige stimmt.
Ein direkter Vergleich würde aber Ungleichheit feststellen.

Trunc(2903224,999999998) ergibt 2903224.
  Mit Zitat antworten Zitat