Einzelnen Beitrag anzeigen

Benutzerbild von markus5766h
markus5766h

Registriert seit: 5. Mär 2009
Ort: Hamburg
569 Beiträge
 
Delphi XE8 Professional
 
#6

Re: Vergleich von Real-Werten ---> klappt nicht

  Alt 27. Jan 2010, 12:17
Zitat von Daniel G:
Int(Rv) = (E96[i-1] * multi) Kann nicht funktionieren, da beide intern nicht gleich aussehen, auch wenn du den Real nach Int castest. Als Workaround spontan das hier:
If Abs(RV - (E96[i-1] * multi)) < eps then wobei eps in diesem Falle eine Konstante ist, die die Genauigkeit angiebt, bspw.

Delphi-Quellcode:
const
eps = 0.001; //<> 1E-3
Wobei es vermutlich auch noch andere Ansätze gibt...
das Int(Rv) ist schon wieder raus ... war nur ein Versuch.
mit
 If Abs(RV - (E96[i-1] * multi)) < eps then ... funktionierts. Danke
Markus H.
  Mit Zitat antworten Zitat