Rundungsfehler bei Real-Werten

[Wheelie]

Hi!

Kennt ihr sicher: einfache Berechnung (5 + 5,55) == Ergebnis =>> 10,5500000000000029 :roll:

Habe hier schon gelesen, dass der obige Fehler was mit der Speicherung von Real-Werten
zu tun hat ... dafür gibt es doch bestimmt irgend 'ne Lösung, oder?

Danke im Voraus :wink:

[X-Dragon]

Zitat:

Zitat von Wheelie

Hi!

Kennt ihr sicher: einfache Berechnung (5 + 5,55) == Ergebnis =>> 10,5500000000000029 :roll:

Habe hier schon gelesen, dass der obige Fehler was mit der Speicherung von Real-Werten
zu tun hat ... dafür gibt es doch bestimmt irgend 'ne Lösung, oder?

Danke im Voraus :wink:

Mit welchen Zahlenbereich arbeitest du denn bzw wieviele Nachkommastellen benötigst du?

[Wheelie]

soll für informatik wie eine art taschenrechner sein (eigentlich total billig :mrgreen: ) ... runden wäre nicht so toll denn der user sollte schon bsp. 5 + 0,0005 eingeben sollen, so wie der Windows-Taschenrechner!

[himitsu]

Du kannst ja alles auf eine bestimmte Anzahl an Nachkommastellen runden.

z.B. auf 4 Stellen:

Delphi-Quellcode:

Ergebnis := Round(Ergebnis * 10000) / 10000;

10,5500000000000029 ==> 10,5500 = 10,55

http://www.delphipraxis.net/images/common/divider.jpg
http://www.FrankNStein.de/Smiley-Kuss.gif * * http://www.FrankNStein.de/Smiley-Spinne.gif * * * http://www.FrankNStein.de/Smiley-Winken.gif

[Wheelie]

hab das problem gefunden: delphi 2 :oops:
mit delphi 6 kompiliert lief das ganze wie geschmiert :thuimb: