Rundungsprobleme mit Extended

[XHelp]

Weist du den Steigungen die Werte per Hand, oder kommen die aus einer Formel?
Generell lässt sich nicht jede Zahl exakt als Gleitkommazahl binär kodieren. Es wird dann der nächstmögliche Wert genommen. Vllt kommt es dadurch zu den Fehlern.

[TM.]

Hallo,

die drei Variablen haben auch den Typ Extended.
Die Werte kommen aus einer Formel - es könnte natürlich sein, dass die Werte, die es mir während der Laufzeit anzeigt, gerundet sind - also die 1.
Da ich aber zum Testen mit der Funktion 'f(x) = x' arbeite, sollten Steigung1, Steigung2 und Steigung3 auch denselben Wert haben.

Delphi-Quellcode:

Steigung1 := (Calculate(Eingabe, X + 0.00001) - Calculate(Eingabe, X) / 0.00001);
//Anders geschrieben: Steigung := (Y2 - Y1) / (X2 - X1) oder Steigung := (Y(x0 + h) - Y(x0) / h

[Satty67]

Wenn der nötige Wertebereich nicht zu groß ist (also Gesamtgröße, Anzahl der Nachkommastellen) könntest Du auch mit kleineren Einheiten rechnen und dabei ganz auf Gleitkommazahlen verzichten.

Also als Beispiel (mit Währung):

Statt in Euro, rechnest Du in Cent, wodurch Du nicht 0,25 Euro sondern 25 Cent hast. Wenn es noch genauer sein soll mit 250 Zentel-Cent. Erst am Ende der Berechnung teilst Du das Ergebnis durch 100 oder 1000 um auf die gewünscht End-Einheit (hier Euro) zu kommen.

Integer oder Int64 sind zwar in der Größe begrenzt, können aber alle Werte in Ihrem Wertebreich darstellen.

[himitsu]

Eventuell wäre auch der Typ Currency eine Möglichkeit.

[Namenloser]

Mal was anderes: Ist bei Steigung1 := (Calculate(Eingabe, X + 0.00001) - Calculate(Eingabe, X) / 0.00001); nicht eine Klammer falsch gesetzt?
Imo müsste es Steigung1 := (Calculate(Eingabe, X + 0.00001) - Calculate(Eingabe, X)) / 0.00001; heißen.

[Satty67]

Zitat von himitsu:

Eventuell wäre auch der Typ Currency eine Möglichkeit.

Ja, wenn ihm 4 Nachkommastellen reichen, hätte der Typ sogar ein paar Vorteile. Gleiche Operatoren wie bei Gleitkomma und nachträgliches Teilen entfällt (ist ja ein INT64, mit festen 4 Nachkomma)

[TM.]

Hallo,

@NamenLozer: Danke für den Hinweis, da ich aber auf meinem Laptop programmiere, dort aber nicht ins Internet gehe, ist es ein einfacher Abtippfehler. Programmiert ist es richtig.

Mein Wertebereich ist leider ziemlich groß; sowohl vor als auch nach dem Komma, da ich mit Funktionen arbeite. Kann deine Lösung dann immer noch verwendet werden? Da es auch einige Arbeit ist, immer zu multiplizieren/dividieren - gibt es noch einen anderen Weg? 4 Nachkommastellen reichen leider nicht; ich rechne bisher mit mindestens 9-10; Möglicherweise mehr.

[Satty67]

Int64 hat 18,9 Stellen, die Du dann passend auf Vorkomme/Nachkomma aufteilen könntest.

Allerdings ist die Verwendung der bereitstehenden Funktionen, welche einen Gleitkommawert erwarten, so nicht möglich. Wenn es nur wenige sind... nachbauen?

Ansosnten evtl eine Bibliothek für Wissenschaftliches berechnen suchen. Gibt vielleicht etwas in der Art wie BigInt, wo dann nicht die Probleme mit Standard-Datentypen auftreten