Einzelnen Beitrag anzeigen

Benutzerbild von stoxx
stoxx

Registriert seit: 13. Aug 2003
1.111 Beiträge
 
#22

Re: Fließkommazahlen auf Gleichheit prüfen

  Alt 1. Mai 2009, 19:14
Zitat:
Dafür ist Currency eben 100% genau. Bei Addition und Subtraktion. Und da sind 0.1 Euro - 0.1 Euro garantiert = 0,0000!

....

Wie schon gesagt, ist das nur ein getarnter Integer. Somit fällt die Verwendung des Datentyps Currency unter den Tipp Ganzzahlen zu verwenden.

ich glaube, ihr täuscht Euch da gewaltig. Currency ist nur vom Typ Extended.
Vielleicht mit 8 Byte etwas ganauer als Double, ja .. aber immer noch ungenau .. folgendes Beispiel demonstriert es ...




Delphi-Quellcode:
var
 cStart, c1, cadd : Currency;

begin



cStart := 10000000000000;
cadd := 0.1;
c1 := cStart;

for i := 1 to 10 do begin
     c1 := c1 + eAdd;

end; // for i


if c1 = 10000000000001 then
        ShowMessage('Gleich = ');


if SameValue(c1, 10000000000001) then
        ShowMessage('Gleich SameValue ');

man sieht auch, wenn man z.b. rechnet:

c1 := c1 + cAdd;


und ins CPU Fenster geht, dass dort steht:

uFrm_Main_XM.pas.1201: cas c1 := c1 + eAdd;
008BFEC1 DBAD90FEFFFF fld tbyte ptr [ebp-$00000170]
008BFEC7 D80DBC0D8C00 fmul dword ptr [$008c0dbc]
008BFECD DFAD28FFFFFF fild qword ptr [ebp-$000000d8]
008BFED3 DEC1 faddp st(1)
008BFED5 DFBD28FFFFFF fistp qword ptr [ebp-$000000d8]




ich kenn mich zwar in Assembler nicht wirklich gut aus, aber "faddp" sind definitiv Fließkommezahlen



..
Phantasie ist etwas, was sich manche Leute gar nicht vorstellen können.
  Mit Zitat antworten Zitat