Forum: Programmieren allgemein
Delphi
by Bodenseematze,
13. Jul 2023
Du meintest TFPURoundingMode in AMath?
Da kommt bei mir "rmNearest" zurück :wink:
Ich bin meinen Code und v.a. meine Logging-Ausgaben nochmal durchgegangen - da war so einiges falsch.
Durch die Ausgaben z.B. mit %f oder %.4f kamen einige bereits gerundete Ergebnisse zurück.
Zudem war an manchen Stellen meine Ausgabe nicht synchron mit der tatsächlichen Berechnung (z.B. * 10 im Wert, im...
Forum: Programmieren allgemein
Delphi
by Bodenseematze,
11. Jul 2023
Ich dachte ursprünglich, der Typ wäre explizit für Ausgaben monetärer Art, d.h. fest mit zwei Nachkommastellen gedacht - als ich mir das jetzt mal kurz angeschaut habe, habe ich gesehen, dass ich mich irre :wink:
Muss ich mir mal genauer anschauen - Danke für den Tipp!
Das könnte natürlich sein - wäre aber für meinen Anwendungsfall natürlich blöd, da das dann die Rundung wieder...
Forum: Programmieren allgemein
Delphi
by Bodenseematze,
11. Jul 2023
Vielen Dank für Eure Antworten - ich bin begeistert, dass man hier noch so aktiv ist :-D
Sowas in der Art hatte ich bereits bei mir am Laufen - das hat durch die Umwandlung in Integer (durch das Trunc)
und wieder Rückwandeln in Extended auch einige Werte, bei denen es zu falschen Ergebnissen kam;
deswegen bin ich ja umgeschwenkt auf Frac() und Int() - die aber noch schlechtere...
Forum: Programmieren allgemein
Delphi
by Bodenseematze,
10. Jul 2023
Hallo zusammen,
ich verzweifle gerade an den Methoden System.Frac und System.Int und auch an Math.SimpleRoundTo
Die liefern bei mir für manche Zahlen in meinen Augen komplett irrsinnige Werte zurück.
Woran liegt das?
var
val : Extended;