Einzelnen Beitrag anzeigen

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#21

AW: Probleme mit Trunc

  Alt 20. Apr 2018, 20:48
Vielleicht noch mal klar ausgedrückt: 2 + 2 ist eigentlich 4. Wenn du aber mit Realen Zahlen in Delphi rechnest, kannst du nie sicher sein, dass das Ergebnis auch 4 wird
Das mit dem eigentlich wird wohl jeder als Scherz verstehen. Der traurige Unsinn liegt im nächsten Satz, der wie gezeigt falsch ist. Dein Excelbeispiel ist genauso fehlerhaft, da dort ja nicht mit Pi gerechnet wird, sondern (wenn man Excel trauen darf) mit einer relativ guten Näherung.

Alle grundlegenden Fließkomma-Operationen sind korrekt gerundet, alle Fließkommazahlen sind exakt definiert, Division durch 2 ist exakt, die Differenz zweier Zahlen x,y mit x/2 <= y <=2x ist exakt (Sterbenz-Lemma), usw immer vorausgesetzt, daß das Ergebnis innerhalb des FP-Bereichs bleibt. Selbst die (mathematisch unstetigen) Funktionen trunc und round sind genau definiert.

Es bestreitet ja wohl niemand, daß durch Runden Fehler auftreten können, die sich bei nicht-stabilen Algorithmen verstärken können. Ein ganzer Teilbereich der Mathematik ist dieser Numerischen Mathematik (neu-deutsch Scientific Computing) gewidmet.
  Mit Zitat antworten Zitat