Einzelnen Beitrag anzeigen

Incocnito

Registriert seit: 28. Nov 2016
210 Beiträge
 
#23

AW: FloatToStrF Rundungsfehler ?

  Alt 5. Feb 2021, 09:02
Vielleicht wurde in der Routine auch an dem CPU FloatingPoint ControlWord herumgefummelt.

vgl.
https://www.intel.com/content/dam/ww...l-1-manual.pdf
8.1.5 x87 FPU Control Word

Obwohl mir die Auswirkungen jetzt nicht bekannt sind.
Auf dem ersten Blick scheint es nur bei SSE- und SSE2-CPU-Funktionen relevant zu sein.
Fraglich, ob die an der Stelle überhaubt benutzt werden.

Du könntest zum Testen das ControlWord jeweils vorher auslesen.
(System.Get8087CW()) und prüfen ob irgendwelche Aufrufe vom QuickReport
da etwas ändern. Wir mussten feststellen, dass beim Arbeiten mit der Apollo-Datenbank
eine Funktion da was verstellt.

Ich hoffe diese Information hilft weiter.

Liebe Grüße
Incocnito
  Mit Zitat antworten Zitat