Einzelnen Beitrag anzeigen

Benutzerbild von 3_of_8
3_of_8

Registriert seit: 22. Mär 2005
Ort: Dingolfing
4.129 Beiträge
 
Turbo Delphi für Win32
 
#6

Re: Genauigkeit Extended - Hilfe widerspricht sich

  Alt 25. Mär 2007, 14:00
Zitat von malo:
Zitat von 3_of_8:
19-20. Lässt ich leicht nachrechnen.

Extended hat 64 Bit Mantisse. 2^64=1.8*10^19, also ~19 dezimale Stellen.
Wikipedia? Signifikante Stellen

Es ging nämlich um die Genauigkeit des Datentyps
Ähm... und?

Ich weiß, was signifikante Stellen sind. Wenn du es schon so genau nimmst, musst du sagen 0-20 signifikante Stellen, denn die Zahl 0 lässt sich ja auch darstellen. Genauso wie 1, 11, 111, 1111, 11111 usw.
Manuel Eberl
„The trouble with having an open mind, of course, is that people will insist on coming along and trying to put things in it.“
- Terry Pratchett
  Mit Zitat antworten Zitat