Forum: Programmieren allgemein
by himitsu,
31. Mai 2010
jupp
PS: Die Verteilung von Mantisse und Basis ist auch so ausgelegt, daß die 18-19 Dezimalstellen gerade so in einen Int64 reinpassen.
Forum: Programmieren allgemein
by himitsu,
31. Mai 2010
Und dazu wird intern auch noch alles in 2-er-Potenzen verwaltet.
e als 2-Potenz
und m als 1 + 1 / 2-Potenz
1/3 läßt sich aber in diesem Format garnichtdarstellen, so daß die letzen 1-2 Bits schon einen falschen/gerundeten Wert darstellen.
Beim umwandeln in einen String wurden diese letzen Bits aber mit verrechnet, welches dann eine "nette" Zahlenreihe ergibt.
Wenn du einen Wert hast,...
Forum: Programmieren allgemein
by himitsu,
31. Mai 2010
In Extended werden nur die Werte so gespeichert, daß für die höchsten x Stellen eine genaue Darstelltung gewährleistet wird
und dahinter sind keine Inhalte definiert, so daß es sich ab da "quasi" um zufällige Werte handelt, welche z.B. aufgrund von Rundungsfehlern entstehen.
Forum: Programmieren allgemein
by himitsu,
31. Mai 2010
Wie/Was der rechnet weiß ich nicht,
aber die Genauigkeit stimmt schon.
Nach der 20-sten Stelle schleichen sich Fehler ein:
program Project1;
{$APPTYPE CONSOLE}
uses
SysUtils;