Forum: Algorithmen, Datenstrukturen und Klassendesign
by himitsu,
4. Dez 2013
0,44 ... egal ob mathematisch oder kaufmännisch gerundet
Forum: Algorithmen, Datenstrukturen und Klassendesign
by himitsu,
4. Dez 2013
Ist der Beitrag von einem Anti-Delphi-Jünger geschrieben wurden?
An allem ist Delphi schuld. :roll:
Man kann natürlich alles umständlich selber machen,
oder Set8087CW or SetRoundMode :angel:
Forum: Algorithmen, Datenstrukturen und Klassendesign
by himitsu,
27. Nov 2013
Ich kann mich täuschen, aber für mich sieht das eher wie mathematisches Runden aus und nicht wie das Kaufmännische. :gruebel:
Forum: Algorithmen, Datenstrukturen und Klassendesign
by himitsu,
26. Nov 2013
resz := FloatToCurr(x);
resz := RoundX(resz, 2);
// dürfte eigentlich Folgendem entsprechen
resz := RoundX(x, 4); // FloatToCurr(x);
resz := RoundX(resz, 2);
:gruebel:
Forum: Algorithmen, Datenstrukturen und Klassendesign
by himitsu,
26. Nov 2013
Seine Funktion funktioniert richtig, aber deine Berechnung rechnet "falsch" => Rundungsfehler
var
x,y : Extended;
resx, resy: Extended;
begin
y := 17.325;
resy := RoundX(y, 2);
// ergibt 17.325 .... nein, ergibt 17,324999999999999998...
// (bzw. 17,324999999999999998265276524023 = 17,325 - 0,00000000000000000173472347597681)