Einzelnen Beitrag anzeigen

Dezipaitor

Registriert seit: 14. Apr 2003
Ort: Stuttgart
1.701 Beiträge
 
Delphi 7 Professional
 
#9

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 13:36
Zitat von Daniel G:
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
Huch, das ist kein Workaround, das ist DER Lösungsweg, wie man Werte vergleicht, die vom Computer nicht exakt dargestellt werden können: Epsilonumgebung.
Sei nicht so bescheiden
Christian
Windows, Tokens, Access Control List, Dateisicherheit, Desktop, Vista Elevation?
Goto: JEDI API LIB & Windows Security Code Library (JWSCL)
  Mit Zitat antworten Zitat