Einzelnen Beitrag anzeigen

Benutzerbild von Matze
Matze
(Co-Admin)

Registriert seit: 7. Jul 2003
Ort: Schwabenländle
14.929 Beiträge
 
Turbo Delphi für Win32
 
#10

Re: Ungültige Gleitkommaoperation bei einer Double berechnun

  Alt 23. Apr 2008, 06:10
Ah, das meinst du.

Man sollte Gleitkommazahlen nie direkt vergleichen, da intern immer Ungenauigkeiten auftreten können. So könnte intern beispielsweise der Wert 0.1 den Wert 0.099999999999999 haben (nur zur Veranschaulichung, tatsächlich wird dieser vermutlich anders aussehen). Das Problem hat man übrigens nicht nur bei Delphi.
Es kann daher sein, dass du eine Endlosschleife programmiert hast. Versuche mal, die beiden Double-Werte mit dieser Funktion zu vergleichen:

Delphi-Quellcode:
// ...
until VglDouble(i, n);
Grüße, Matze