Delphi Rundungsprobleme mit Extended

Thema durchsuchen

Ansicht

Themen-Optionen

Rundungsprobleme mit Extended

Ein Thema von TM. · begonnen am 12. Sep 2010 · letzter Beitrag vom 12. Sep 2010

Vorheriger Beitrag

Nächster Beitrag

TM.

Registriert seit: 22. Jul 2006
42 Beiträge

AW: Rundungsprobleme mit Extended

12. Sep 2010, 15:04

Hallo,

die drei Variablen haben auch den Typ Extended.
Die Werte kommen aus einer Formel - es könnte natürlich sein, dass die Werte, die es mir während der Laufzeit anzeigt, gerundet sind - also die 1.
Da ich aber zum Testen mit der Funktion 'f(x) = x' arbeite, sollten Steigung1, Steigung2 und Steigung3 auch denselben Wert haben.

markieren

Delphi-Quellcode:

			Steigung1 := (Calculate(Eingabe, X + 0.00001) - Calculate(Eingabe, X) / 0.00001);

//Anders geschrieben: Steigung := (Y2 - Y1) / (X2 - X1) oder Steigung := (Y(x0 + h) - Y(x0) / h