Datentypen und Genauigkeitsverluste?

[jfheins]

Zitat von tralala:

@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.
mfg

Das dürfte so nicht stimmen.
Die Ursache dafür ist, dass in java (und vielen Sprachen, die mit C verwandt sind) der Divisionsoperator überladen ist. Und falls man zwei Integer dividiert kommt eben ein Integer als Ergebnis 'raus. Das ist bei der Multiplikation zwar auch so, macht da aber keine Probleme - denn deine 2,5 sind ja bereits ein float. Und damit wird die ganze Rechnung mit floats durchgeführt!

Deshalb ergibt z.B.:
1/120 = 1
1.0/8 = 1/8.0 = 0.125
2*2.5 = 5.0

In Delphi ist der / Operator ausschließlich Gleitkommazahl-Operator - Die Integerdivision geht mit div.

Zitat:

Es geht um Nachkommaverluste auf die 8 Stelle

Kannst du etwas mehr Code posten? Und vielleicht die Zahl, bei der das passiert?