Einzelnen Beitrag anzeigen

TM.

Registriert seit: 22. Jul 2006
42 Beiträge
 
#1

round(): Invalid Floating Point Operation

  Alt 16. Nov 2010, 08:21
Delphi-Version: 7
Hallo,

mein round() verhält sich sehr merkwürdig. Nachdem ich die roundTo() schon mit einer eigenen Funktion ersetzen musste (aufgrund des Double- anstatt Extended-Parameters), wird mein Programm nun mit einer 'Invalid floating point operation' gestoppt. Werte, die dazu führen, sind bspw. -153*10^17. Round() verlangt Extended und gibt Int64 zurück, beide haben einen Wertebereich, in den dieser passen würde.
Für mich sehr ärgerlich, da ich absichtlich solche großen Werte aufgrund etwaiger Ungenauigkeiten verwende.

Warum? Was tun?

Danke für eure Hilfe,
TM.
  Mit Zitat antworten Zitat