Gleitkommazahlen Exponentialschreibweise unerwünscht

[Reinhard Kern]

Zitat von LuCSteR:

Hi,

ich möchte einfach abs(0.00007957 - 0.00008172) = 2,149995735E-6
alle 3 Variablen sind als real definiert.
Wird der Wertebereich überschritten oder warum zeigt er mir die zahl nur in Exponentialschreibweise an?
Wie kann ich den längeren Wert mit den 0en ausgeben lassen?

grüße

Hallo,

das ist ein für Fliesskommazahlen typischer Rundungsfehler, exakt wäre als Ergebnis -0.00000215 (macht mein Texas-Taschenrechner übrigens richtig). Dadurch wird erst das Ausgabeformat überschritten, hat mich gleich gewundert, dass sowas bei einer Subtraktion vorkommt. Der Taschenrechner von XP arbeitet übrigens auch exakt.

Ich finde den Fehler unzulässig, aber machen kannst du nicht viel, wenn dein Programm so rechnet. Du könntest es höchstens mit höherer Genauigkeit probieren, obwohl das eigentlich keinen Sinn macht, denn schliesslich subtrahierst du 2 4stellige Zahlen, das darf nicht schiefgehen.

Vielleicht findet sich hier im Forum ja noch ein Spezialist für Borland-Arithmetik, die hat schon so ihre Eigenheiten.

Gruss Reinhard