Einzelnen Beitrag anzeigen

tigerman33

Registriert seit: 30. Jul 2005
Ort: München
423 Beiträge
 
Delphi 2005 Professional
 
#2

Re: Double-Wert in einen Single-Wert umwandeln

  Alt 20. Dez 2005, 13:00
Diese Ungenauigkeiten sind bei Floats normal (d.h. nicht zu ändern). Das liegt an der begrenzten Genauigkeit, die man mit (endlich vielen) Bits nur erreichen kann.
Normalerweise macht sich der Fehler allerdings erst etwas weiter hinten hinter dem Komma bemerkbar. Hast du vielleicht ein paar Nullen unterschlagen?
Ansonsten probier mal, 0.000003 abzuziehen. Aber wie gesagt, 100%ige Genauigkeit wirst du im Allgemeinen nicht erreichen können!

//edit:
BTW, herzlich Willkommen in der DP!
Christian
Der Computer hilft mir, Probleme zu lösen, die ich ohne Computer nicht hätte.
  Mit Zitat antworten Zitat