Moin moin,
ich habe gerade eine Procedure geschrieben die nicht richtig funktioniert.
tBit = 1e-05
tq = 5e-07
Code:
Quantums:=tBit/tq; // da kommt genau 20 raus, mit nix dach dem Komma
if frac(Quantums)=0 then
// wenn nach dem Komma 0 ist dann das hier ausführen
else
// wenn nach dem Komma nicht 0 ist dann das hier ausführen
Fehler:=frac(Quantums);
Wenn ich nun diese Procedure Schritt für Schitt ausführe wird mir für Quantums der 20 angezeigt (ohne Kommastellen) aber die Bedinnung frac(Quantums)=0 ist nicht erfüllt. Deswegen wird 'Fehler' der Wert 3,55..e-15 zugewiesen.
Was tun ???
ciao
P.S. Alle Werte sind als Double deklariert.