Forum: Programmieren allgemein
by sarte,
31. Mai 2010
Gehe ich denn recht in der Annahme, dass der Datentyp Extended 79 Bit hat (1 Vorzeichenbit + 63 Bit Matisse + 15 Bit Exponent) und somit eine Genauigkeit von 19 Stellen?
Forum: Programmieren allgemein
by sarte,
31. Mai 2010
Hi,
danke für die schnelle Antwort.
Aber wie kommt es zu den falschen Ziffern. Ich hätte erwartet, dass nach der 20. Stelle nur noch 0en kommen. Wenn wir vorne was abschneiden, wie kommt er dann darauf hinten eine 4 anzufügen?
Ab der 73. Stelle folgen dann - warum auch immer - nur noch 0en ...
Forum: Programmieren allgemein
by sarte,
31. Mai 2010
Hallo,
ich habe eine kurze Frage. Extended (double precision) hat eine Genauigkeit von 19 Stellen und ist doch das genauste was es an Datentypen gibt. Was macht denn dann der Windows-Taschenrechner anders, wenn er bei Fließkommazahlen 33 Ziffern ausgibt?