Vergleich bei Double

[Khabarakh]

Zitat von Surrounder:

Hmm ok das erscheint mir logisch. Lustig find ich nur dass mir der Debugger das nicht anzeigt, oder sind die Fehler weit hinter den Nachkommastellen der Variable?

Jupp, die Fehler sind (anfangs) wirklich nicht groß (ein Bit reicht). Außerdem muss die ungenaue Binärzahl ja wieder ins Dezimalsystem umgerechnet werden, was Ungenauigkeiten hervorruft. Und schlussendlich wird der Debugger nie alle 15 Nachkommastellen anzeigen.

Zitat:

Meine kleiste Schrittweite ist 0.01 und um das Nachkommaproblem zu lösen könnte ich meine ganzen Werte mit 100 multipilieren, dann habe ich immer einen Integer und hoffentlich das Problem nicht mehr?!

Wenn du nur noch mit Integern rechnest, muss es so funktionieren. Du kannst allerdings auch den Typ Currency benutzen, der macht intern fast das Gleiche (Int64 als Festkommatyp mit 4 Nachkommastellen).

[edit]Der rote Kasten glänzt mal wieder durch seine Abstinenz .
@Kroko: Gut, so kann man das Problem kurzzeitig umgehen .
[/edit]