Einzelnen Beitrag anzeigen

venice2
(Gast)

n/a Beiträge
 
#11

AW: FLOAT_INVALID_OPERATION und FLOAT_OVERFLOW nur 64Bit

  Alt 16. Jul 2021, 17:17
Zitat:
Vielleicht stehen unter 32 Bit an den Adressen außerhalb der Arrays 0 Werte und unter 64 Bit z.B. NaNs.
Dann hättest du unter 32 Bit zwar fehlerhafte Ergebnisse aber keine Exeptions, unter 64 Bit dagegen würden dann Exceptions ausgelöst.
Das mag sein.
Danke für deine Ausführliche Erklärung.
Werde es mal testen.

EDIT:
Nein geht nicht hatte das Extended noch definiert.
Kommen die gleichen Fehler mit Single.

Habe deine Änderung trotzdem belassen da es mir schlüssig erscheint. Danke!

Geändert von venice2 (16. Jul 2021 um 17:57 Uhr)
  Mit Zitat antworten Zitat