Einzelnen Beitrag anzeigen

Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
43.105 Beiträge
 
Delphi 12 Athens
 
#7

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 16:03
Und dazu wird intern auch noch alles in 2-er-Potenzen verwaltet.

e als 2-Potenz
und m als 1 + 1 / 2-Potenz

1/3 läßt sich aber in diesem Format garnichtdarstellen, so daß die letzen 1-2 Bits schon einen falschen/gerundeten Wert darstellen.

Beim umwandeln in einen String wurden diese letzen Bits aber mit verrechnet, welches dann eine "nette" Zahlenreihe ergibt.

Wenn du einen Wert hast, welcher genau in dieses interne Format reinpaßt, dann bekommst du deine Unmassen an 0-en natürlich dort raus.
Garbage Collector ... Delphianer erzeugen keinen Müll, also brauchen sie auch keinen Müllsucher.
my Delphi wish list : BugReports/FeatureRequests
  Mit Zitat antworten Zitat