Delphi rechnet falsch

[Borti]

ich hab jetzt ja die routine mit von mir gewählten Werten für Zahl1 und Zahl2 gefüttert. Bei manchen werten kommt glatt 1 raus, bei manchen 0,999...

[supermuckl]

ich denk mal das ist so zu erklären:
der realwert wird ja in binärer form irgendwo gespeichert.
und zwar nur eine zahl (7 ziffern) und - vorzeichen oder noch eine ziffer
und das halt binär.

nun rechnet der prozessor das aus und tut dir richtiger weise diese ungenaue zahl raushauen, da nirgends gespeichert war, das es eine periode war oder nicht.

also irgenwo muss es sowas sein ;)

hoffentlich kanns jemand beschreiben, der ahnung hat.

//edit
http://www.ica1.uni-stuttgart.de/Cou...ml/node39.html

[Steve]

Hi,

es liegt eher am Aufbau von Gleitkommazahlen (Vorzeichenbit, Mantisse, Exponent...). Hier gibts ne ziemlich ausführliche Beschreibung/Erläuterung.


Gruß
Stephan :dance:

[Chegga]

Hi,

Zitat:

hoffentlich kanns jemand beschreiben, der ahnung hat.

Ja, hoffentlich! :mrgreen:

MfG Marc

[Edit]Der Link von Steve ist sehr hilfreich! Und das wichtigste:
Die Erklärung ist einfach zu kapieren. (für mich! :wink: )[/Edit]

[Sourcemaker]

Hi,

wenn Du weißt das die Nachkommastellen auf <=4 begrenzt sind ist der Typ Currency zu empfehlen.

Grüße

Frank