Delphi-PRAXiS - Genaugkeit von Fließkommazahlen

Seite 2 von 2

40 Beiträge dieses Themas auf einer Seite anzeigen

Delphi-PRAXiS (https://www.delphipraxis.net/forum.php)

- Programmieren allgemein (https://www.delphipraxis.net/40-programmieren-allgemein/)

- - Genaugkeit von Fließkommazahlen (https://www.delphipraxis.net/151757-genaugkeit-von-fliesskommazahlen.html)

Neutral General

31. Mai 2010 16:46

Re: Genaugkeit von Fließkommazahlen

Klar geht das. Aber man muss sich die (einzelnen) Stellen halt zwischendrin abspeichern und Stelle für Stelle berechnen. Das passt halt in keinen einzelnen Datentyp.

sarte

31. Mai 2010 17:28

Re: Genaugkeit von Fließkommazahlen

Gehe ich denn recht in der Annahme, dass der Datentyp Extended 79 Bit hat (1 Vorzeichenbit + 63 Bit Matisse + 15 Bit Exponent) und somit eine Genauigkeit von 19 Stellen?

Neutral General

31. Mai 2010 17:31

Re: Genaugkeit von Fließkommazahlen

Der Datentyp Extended ist 10 Bit groß :mrgreen:

himitsu

31. Mai 2010 17:38

Re: Genaugkeit von Fließkommazahlen

jupp

PS: Die Verteilung von Mantisse und Basis ist auch so ausgelegt, daß die 18-19 Dezimalstellen gerade so in einen Int64 reinpassen.

Taggs

31. Mai 2010 17:59

Re: Genaugkeit von Fließkommazahlen

Zitat:

Zitat von Neutral General

Der Datentyp Extended ist 10 Bit groß :mrgreen:

Ich glaube du meinst 10 Byte / 80 Bit, oder?

Neutral General

31. Mai 2010 17:59

Re: Genaugkeit von Fließkommazahlen

Oh ja. Du hast Recht.

Alle Zeitangaben in WEZ +1. Es ist jetzt 00:38 Uhr.

Seite 2 von 2

40 Beiträge dieses Themas auf einer Seite anzeigen