25 ist kleiner als 25?

[trifid]

Hallo

@himitsu,
von der Delphi-Rundungsfunktion Round() würde ich abraten, da diese Fehler hat.

[FBrust]

Also,

dblWeight kommt aus einer Tabelle. Das zugrundeliegende Feld hat den Typ numeric und in der Quelltabelle steht 25,0 drin, nicht mehr und nicht weniger.

Die Felder intFrom5 und intFrom6 kommen auch aus einer Tabelle, haben ebenfalls den Typ numeric und es stehen einmal 15,0 (intFrom5) und einmal 25,0 (intFrom6) drin.

Also glaube ich nicht, dass Runden hier etwas bringt. Die Frage lautet für mich vielmehr:

Wie kann ich den tatsächlichen Wert des Feldes feststellen, d. h. wenn 24,99999 drinsteht, wie kann ich das feststellen?


Grüße
Frank

[dizzy]

Das Problem hierbei ist die Art und Weise wie float/double-Werte hinterlegt werden. Sie werden nämlich nicht dezimal, so wie du sie siehst intern verarbeitet, sondern in Hexdump-Darstellung (frag mich bitte keiner nach Details ;)). Dabei wird die Zahl entsprechend umgerechnet, und die Ungenauigkeit resultiert aus der mathematischen Inkompatibilität von Hex und Dezimal. (Boaaa, klingt das abgehoben :D)

Von daher bist du bei float's immer mit einem minimalen Informationsverlust unterwegs. Und genau DER ist es, der dir in die Suppe spuckt!
Das Verfahren das trifid gezeigt hat ist für Vergleiche von floats üblich und sinnvoll.


gruss,
dizzy

[FBrust]

Na gut, Leute,

vielen Dank für Eure Antworten.

Ich werd' das Verfahren von trifid ausprobieren und dann berichten...


Grüße
Frank