Einzelnen Beitrag anzeigen

Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.041 Beiträge
 
Delphi XE2 Professional
 
#2

AW: DUnit und Fließkommazahlen Problem

  Alt 25. Sep 2022, 11:32
Zitat:
aber sollte das nicht für eine Nachkommastelle trotzdem funktionieren?
Du machst da einen Denkfehler.
4.6 hat, dezimal ausgedrückt, zwar nur eine Nachkommastelle, binär ausgedrückt aber "unendlich" viele Nachkommastellen.
Wie sieht denn die Funktion CheckEquals aus?
Vorschlag: Benutze die Funktion SameValue aus System.Math.

Delphi-Quellcode:
var V:Double; Res:Boolean;
begin
   V:=4.6;
   Res:=SameValue(4.6,V); // Res ist True
end;
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat