Einzelnen Beitrag anzeigen

Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#7

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:09
@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.
mfg
Das dürfte so nicht stimmen.
Die Ursache dafür ist, dass in java (und vielen Sprachen, die mit C verwandt sind) der Divisionsoperator überladen ist. Und falls man zwei Integer dividiert kommt eben ein Integer als Ergebnis 'raus. Das ist bei der Multiplikation zwar auch so, macht da aber keine Probleme - denn deine 2,5 sind ja bereits ein float. Und damit wird die ganze Rechnung mit floats durchgeführt!

Deshalb ergibt z.B.:
1/120 = 1
1.0/8 = 1/8.0 = 0.125
2*2.5 = 5.0

In Delphi ist der / Operator ausschließlich Gleitkommazahl-Operator - Die Integerdivision geht mit div.

Zitat:
Es geht um Nachkommaverluste auf die 8 Stelle
Kannst du etwas mehr Code posten? Und vielleicht die Zahl, bei der das passiert?

Geändert von jfheins (20. Jul 2012 um 13:16 Uhr)
  Mit Zitat antworten Zitat