AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

FormatFloat 32bit / 64bit

Ein Thema von Thomas Feichtner · begonnen am 23. Apr 2024 · letzter Beitrag vom 23. Apr 2024
 
Michael II

Registriert seit: 1. Dez 2012
Ort: CH BE Eriswil
772 Beiträge
 
Delphi 11 Alexandria
 
#8

AW: FormatFloat 32bit / 64bit

  Alt 23. Apr 2024, 17:02
Wie bereits erwähnt worden ist läuft unter Win32 FloatToTextFmt() via asm und Win64 PUREPASCAL via InternalFloatToTextFmt(). Win64s extended ist ein Alias für double.

jaenicke hat vorgeschlagen via Set8087CW() so zu runden, dass immer dann, wenn ein Dezimalwert z nicht exakt gespeichert werden kann binär die nächsthöhere Zahl gespeichert wird. (Wenn der Delphi Teil korrekt rechnet, sind wir damit bei in der Aufgabe verwendeten Stellenzahl auf der sicheren Seite.) rabatscher schlägt vor via Set8087CW() extended auch Win32 auf double zu zwingen. Weil Win32 und Win64 voneinander verschiedenen Code nutzen, sind wir durch die Beeinflussung der FPU Berechnung immer noch nicht sicher ob am Ende in allen möglichen Fällen immer exakt gleiche Werte berechnet werden.

Aber ich glaube das Grundproblem bei der Win32 Implementierung liegt v.a. beim Casten und gar nicht bei der Berechnung des formatierten Strings.
Wenn man sich die Win32 Berechnung ansieht, dann wird zuerst ein Variant in currency, später in double und danach in extended gecastet (bevor dann der formatierte String berechnet wird). Wenn man direkt currency in extended castet, dann erhält man sehr häufig andere Werte (ist ja klar, da beim Umweg über double Stellengenauigkeit verloren geht und u.a. Rundungsfehler drohen) - und einige dieser Unterschiede wirken sich dann auf FormatFloat aus. var c: currency; d : double; e, edirekt : extended; Dann führt d := double(c); und danach e := extended(d); nicht zum gleichen Ergebnis wie edirekt := extended(c);


Nebenbei: Vorsicht bei currency ([-922337203685477.5808.. 922337203685477.5807]). Currency verwendet fest 4 Nachkommastellen. Das ist im vorliegenden Fall (405.405) also kein Problem. Wenn aber auch Zahlen mit mehr Nachkommastellen als Input möglich sind, dann solltest du den Variant VOR dem Aufruf von FormatFloat() nach extended casten.

Und da es offensichtlich ein Problem wegen dem wiederholten Casten gibt (Datenverlust) solltest du den Variant eh selbst nach extended casten.

Fazit: Der Delphi Source Code gehört in diesem Bereich angepasst.
Michael Gasser

Geändert von Michael II (23. Apr 2024 um 20:42 Uhr)
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 19:15 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz