Einzelnen Beitrag anzeigen

egentur

Registriert seit: 27. Sep 2006
Ort: Freising
49 Beiträge
 
Delphi XE2 Enterprise
 
#7

AW: FloatToStrF Rundungsfehler ?

  Alt 29. Jan 2021, 16:37
Hallo Incocnito

Genauso verhält es sich bei mir.
Ich habe die 8 Jahre alte Software übernommen.

Ein Messwert kommt als String '0.50015' ,
wird dann für eine weitere Berechnung in Double konvertiert

val(messwert, double, error) double ist dabei 0.500149999...

und dann wieder in String
result := Floattostrf(double , fffixed, 6,4)

result ist dann '0,5001'

zur Anzeige.

Warum rundet die Funktion an diese Stelle ab statt auf (0,5002) ?

Ist dies ein bekannter Fehler ?
  Mit Zitat antworten Zitat