Einzelnen Beitrag anzeigen

Benutzerbild von sirius
sirius

Registriert seit: 3. Jan 2007
Ort: Dresden
3.443 Beiträge
 
Delphi 7 Enterprise
 
#8

Re: Genaugkeit von Fließkommazahlen

  Alt 31. Mai 2010, 16:10
Die Darstellung ist ein wenig "umständlicher" als hier dargestellt. Ich will aber jetzt nicht darauf eingehen, sondern eher aufs Prinzip.
Egal wie der Exponent aussieht, die Mantisse kann bspw folgendes Format haben:
1,0010110
Wenn man also sagt, die Mantisse hat eine maximale Länge von 8bit (und wir die führende 1 mitrechnen)
Dann errechnet sich obige Zahl zu
1*2^0 + 0*2^-1 + 0*2^-2 + 1*2^-3 + 0*2^-4 + 1*2^-5 + 1*2^-6 + 0*2^-7
=1,17188

Die nachfolgende mögliche Zahl ist
1,0010111
=1*2^0 + 0*2^-1 + 0*2^-2 + 1*2^-3 + 0*2^-4 + 1*2^-5 + 1*2^-6 + 1*2^-7
=1,17969

Wieviele Stellen Genauigkeit würdest du jetzt also im Dezimalen Bereich angeben bei einer Schrittweite von
0,0078125 = 1/128 = 2^-7

--> 2 Stellen Genauigkeit: Aber wie du siehst, ist bei den Zahlen 1,17188 und 1,17969 nicht nach zwei Stellen Schluss.
Dieser Beitrag ist für Jugendliche unter 18 Jahren nicht geeignet.
  Mit Zitat antworten Zitat