Ergebnis der Suchanfrage

• Forum: Programmieren allgemein

  Re: Genaugkeit von Fließkommazahlen

   
    by himitsu, 31. Mai 2010
  jupp
  
  PS: Die Verteilung von Mantisse und Basis ist auch so ausgelegt, daß die 18-19 Dezimalstellen gerade so in einen Int64 reinpassen.
• Forum: Programmieren allgemein

  Re: Genaugkeit von Fließkommazahlen

   
    by himitsu, 31. Mai 2010
  Mit'm DEC kann man sich auch massenhaft Stellen von PI berechnen lassen ... die ersten paar Millionen Stellen wurden (soweit ich mich erinnere) innerhalb weniger Millisekunden errechnet, damals auf meinem alten 1,8 GHz-Athlon.
• Forum: Programmieren allgemein

  Re: Genaugkeit von Fließkommazahlen

   
    by himitsu, 31. Mai 2010
  Und dazu wird intern auch noch alles in 2-er-Potenzen verwaltet.
  
  e als 2-Potenz
  und m als 1 + 1 / 2-Potenz
  
  1/3 läßt sich aber in diesem Format garnichtdarstellen, so daß die letzen 1-2 Bits schon einen falschen/gerundeten Wert darstellen.
  
  Beim umwandeln in einen String wurden diese letzen Bits aber mit verrechnet, welches dann eine "nette" Zahlenreihe ergibt.
  
  Wenn du einen Wert hast,...
• Forum: Programmieren allgemein

  Re: Genaugkeit von Fließkommazahlen

   
    by himitsu, 31. Mai 2010
  In Extended werden nur die Werte so gespeichert, daß für die höchsten x Stellen eine genaue Darstelltung gewährleistet wird
  und dahinter sind keine Inhalte definiert, so daß es sich ab da "quasi" um zufällige Werte handelt, welche z.B. aufgrund von Rundungsfehlern entstehen.
• Forum: Programmieren allgemein

  Re: Genaugkeit von Fließkommazahlen

   
    by himitsu, 31. Mai 2010
  Wie/Was der rechnet weiß ich nicht,
  aber die Genauigkeit stimmt schon.
  
  Nach der 20-sten Stelle schleichen sich Fehler ein:
  program Project1;
  
  {$APPTYPE CONSOLE}
  
  uses
  SysUtils;