![]() |
Berechnungsfehler
Hallo,
kann einen unschönen Berechnungsfehler beobachten. Habe folgende Variablen: Rohrzahl, Rohrlagen, RohrReihen, Kreisläufe: Integer RohreProKreis: Single Wenn nun Rohrlagen = 38, RohrReihen = 4 und Kreisläufe = 40, dann RohrZahl := RohrLagen * RohrReihen; RohreProKreis := RohrZahl / Kreisläufe: Ergebnis: RohreProKreis = 3,79999995231628 Wie kommt es dazu? Das korrekte Ergebnis wäre 3,8 Hat jemand von Euch eine Ahnung was zu dieser falschen Berechnung führt? Gruß Andreas |
AW: Berechnungsfehler
Das liegt am Datentyp Single (Float), der ist ungenau. Nimm stattdessen Extended.
|
AW: Berechnungsfehler
Zitat:
|
AW: Berechnungsfehler
Double geht auch!
Delphi Hilfe: Der Typ Extended bietet eine höhere Genauigkeit, ist aber nicht so einfach portierbar wie die anderen reellen Typen. Verwenden Sie Extended mit Bedacht, wenn Sie Datendateien anlegen, die gemeinsam und plattformübergreifend genutzt werden sollen. sollte man sich immer merken ;) |
AW: Berechnungsfehler
Zitat:
Grüße |
AW: Berechnungsfehler
Zitat:
![]() |
AW: Berechnungsfehler
Achtung: Im 64-Bit Modus gibt es Extended nur als Synonym für Double....
32-Bit kann genauer rechnen, als 64 Bit :-) (OK: Mit 64 Bit rechne *ich* ziemlich ungenau... :shock: :drunken:) |
AW: Berechnungsfehler
Wobei "Rundungsfehler" hier garnicht zu vermeiden sind, egal wie groß man den Fließkommadatentyp wählt.
Am Ende muß man ganz einfach bei der Ausgabe auf das gewünschte Maß runden und darf "niemals" mit = vergleichen. Currency "rundet" automatisch auf 4 Nachkommastellen. Bei BCD hängt das von der Speichergröße ab. (aber maximal mit der Auflösung vom Extended, wenn man es über die FPU berechnen lässt) PS: Bei 64 Bit ist Extended nur noch FPU-intern und steht dem Programmierer quasi außerhalb garnicht mehr zur Verfügung. In Delphi stand es halt unter 32 Bit nur deswegen zur Verfügung, weil es ging, aber offiziell war es nicht zur Benutzung angedacht. Drum kennen Andere sowas Großes garnicht erst. :stupid: ![]() Zitat:
|
AW: Berechnungsfehler
Hier noch mal auf deutsch:
![]() |
AW: Berechnungsfehler
DX35 kann dann bestimmt auch endlich 128 Bit. :stupid:
![]() |
AW: Berechnungsfehler
Zitat:
Mache RohreProKreis := RoundTo(RohreProKreis, -2) Man muss sich daran gewöhnen, dass nicht genau der erwartete Wert erscheint, sondern der ungefähr erwartete. Man benutzt eine Maschine zum Rechnen und die hat Tolerenzen. Die Toleranzen muß man bewerten und damit umgehen. Wie im Maschinenbau. Spannend wird es erst, wenn Du Werte vergleichen willst. Sowas wie "if Wert = 0 then .." |
AW: Berechnungsfehler
Zitat:
Zitat:
![]() Du fütterst einen Extended rein, bekommst einen Extended raus. Ändert genau gar nichts. Ok, es mag seht oft ein gerundetes ERgebnis raus kommen, aber es gibt halt auch Werte die hier wieder mit dem Speicherfehler aus der Funktion kommen. (und ja: Ich hatte das Thema schon oft mit Entwicklern die vom Glauben abgefallen sind, weil bei RoundTo hin und wieder eben nicht der auf 2 Stellen genaue Wert raus kommt sondern was anderes). Wenn Du RoundTo verwendest, dann solltest Du das ganze einem Currency zuweisen (wenn es dir wichtig ist mit genau 2 Nachkommastellen weiter zu rechnen) |
AW: Berechnungsfehler
@Lemmy
Ja hast recht. Gedanklich habe ich das aus Ausgabe bzw letztes Ergebnis angesehen: StrRohreProKreis := RoundTo(RohreProKreis, -2).ToString Wenn man es als Zwischenergebnis nutzt, würde ich eh mit dem Wert so weiterrechnen. Bei technischen Berechnungen bringt dies Extended doch nichts. Ich nutze sogar bei FEM-Berechnungen Double-Werte. |
AW: Berechnungsfehler
Zitat:
|
AW: Berechnungsfehler
[QUOTE]Die Ursache dafür ist aber kein Rundungsfehler sondern eine Speicherungenauigkeit bei Fließkommawerten. Das sind 2 unterschiedliche Dinge und sollte man tunlichst nicht verwechseln.[QUOTE]
OK, aber wenn man es so sieht, dann wird es beim Speichern auf den nächsten Wert "gerundet", den der Typ speichern kann. :angle2: |
AW: Berechnungsfehler
Auch mal kurz mein süßer Senf dazu
Es liegt einfach da dran das digital zum Beispiel kein drittel kennt und damit 0,3333333 speichert und irgendwann das "unendlich" fehlt (unendlich kennt dein System nicht). Bei weiteren Berechnungen treten eben hier Ungenauigkeiten auf. Das muss dann dein Code ausgleichen mit Runden an der passenden Stelle. |
AW: Berechnungsfehler
Und dem wäre noch hinzuzufügen, dass binär Perioden an anderen Stellen auftauchen als bei dezimal. Zum Beispiel ist 0,2 als Float niemals exakt darstellbar, da es immer in einer Periode mündet. Egal wie genau der Typ ist den man wählt.
|
Alle Zeitangaben in WEZ +1. Es ist jetzt 12:56 Uhr. |
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz