Einzelnen Beitrag anzeigen

Benutzerbild von patti
patti

Registriert seit: 20. Okt 2004
Ort: Mittelfranken
665 Beiträge
 
Turbo Delphi für Win32
 
#5

Re: Falsche Ausgabe von Floatwerten

  Alt 30. Nov 2009, 19:12
In der DP gibt es mehrere MatheLibs, die mit "extremen Zahlen" umgehen können. Evtl. kann man mit diesen ein genaueres Ergebnis erzielen. Für i = 28 liefert die Zeile, die ich oben zitiert hab folgenden Wert für ds: 7,66884592045082*10^(-16), also einen verdammt kleinen Wert. Das ist immerhin eine Zahl mit 15 (!) Nullen nach dem Komma, bis die erste Nicht-Null kommt! Das bedeutet aber auch, dass sich an dem Endergebnis nicht mehr viel ändert, egal wie oft du das ganze machst. Was kommt denn bis jetzt als Näherungswert für Pi raus?

Patti
Patrick Kreutzer
[Informatik-Student im 4. Semester]
http://www.patti-k.de/
  Mit Zitat antworten Zitat