Double Werte vergleichen

[Amateurprofi]

Zitat von Rollo62:

Zitat von Amateurprofi:

Ihr Lieben,
die Hinweise auf die Vergleichstoleranz mögen ja ganz nett sein, aber wenn man 1.0 mit 10.0 vergleicht, dann braucht man keine Vergleichstoleranz.
Vielleich zeigt Dolly uns mal etwas Code.

Wer sagt denn das eine Vergleichstoleranz nicht 10.0 oder 100.0 oder 1000.0 sein kann ?
Meiner Meinung nach gibt es immer eine, je nach Aufgabenstellung.

Wo soll denn da eine Vergleichstoleranz 10.0 oder 100.0 oder 1000.0 herkommen?
Lies doch mal #1.
DieDolly schrieb

Zitat:

Ich habe A := 1.0 und B := 10.0.
Wenn ich nun if A >= B vergleiche erhalte ich komischerweise True.

Bei A >= B ist keine Vergleichstoleranz im Spiel, denn es werden 2 ganze Zahlen verglichen, bei denen keinerlei Differenzen auftreten können, die dadurch entstehen, dass gebrochene Zahlen binär nicht präzise dargestellt werden können.

[mkinzler]

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

[Luckie]

Zitat von mkinzler:

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

Zum einem das. Und wir wissen nicht, wo sie herkommen.

[Amateurprofi]

Zitat von Luckie:

Zitat von mkinzler:

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

Zum einem das. Und wir wissen nicht, wo sie herkommen.

Doch, wir wissen sehr genau wo sie herkommen.
Wie schrieb DieDolly

Zitat:

Ich habe A := 1.0 und B := 10.0.

[Luckie]

Das hat sie hier geschrieben. Aber ich gehe mal davon aus, dass es keine Konstanten sind, sondern Ergebnisse voran gegangener Rechnungen. Und da ist es durchaus interessant, was vorher passiert ist. Wurde gerundet? Wurde gecastet? Wie sehen die Ursprungswerte der Rechnung aus? Mit welchen Datentypen wurde gerechnet? Das kann alles eine Rolle spielen.

[Sherlock]

*Räusper*
Die Diskussion basiert auf einem Fehler...das ist allen klar?

Sherlock

[p80286]

Psst stör sie nicht. Die Anfänger sitzen andächtig vor dem Monitor und staunen.

Gruß
K-H

[Amateurprofi]

Zitat von mkinzler:

Zitat:

denn es werden 2 ganze Zahlen verglichen

Es handelt sich aber um 2 Double-Werte.

Na und?
Wenn du in einem Double eine Zahl ohne Nachkommastellen (oder alle Nachkommastellen 0 sind) und die Zahl +/- 2^52 nicht übersteigt, dann ist das eine Integerzahl.
Bei Vergleichen min anderen Zahlen, die ebenfalls keine Nachkommastellen haben, treten die Probleme mit Vergleichstoleranzen nicht auf.
Bei dem Problem, um das es hier ging, und mittlerweise wissen wird ja, dass das Problem keines war, ging es um zwei Zahlen, nämlich 1.0 und 10.0, eben Zahlen ohne Nachkommazahlen.
Schau dir doch mal im Debugger an, wie solche Zahlen in der FPU gezeigt werden. Als Zahlen ohne Nachkommastellen.