Einzelnen Beitrag anzeigen

Benutzerbild von malo
malo

Registriert seit: 19. Sep 2004
2.115 Beiträge
 
#4

Re: Genauigkeit Extended - Hilfe widerspricht sich

  Alt 24. Mär 2007, 22:35
Zitat von 3_of_8:
19-20. Lässt ich leicht nachrechnen.

Extended hat 64 Bit Mantisse. 2^64=1.8*10^19, also ~19 dezimale Stellen.
Wikipedia? Signifikante Stellen

Es ging nämlich um die Genauigkeit des Datentyps
  Mit Zitat antworten Zitat