Forum: Object-Pascal / Delphi-Language
by TM.,
16. Nov 2010
Danke für eure schnelle Antwort - da habe ich den Wertebereich falsch abgelesen.
Forum: Object-Pascal / Delphi-Language
by TM.,
16. Nov 2010
Hallo,
mein round() verhält sich sehr merkwürdig. Nachdem ich die roundTo() schon mit einer eigenen Funktion ersetzen musste (aufgrund des Double- anstatt Extended-Parameters), wird mein Programm nun mit einer 'Invalid floating point operation' gestoppt. Werte, die dazu führen, sind bspw. -153*10^17. Round() verlangt Extended und gibt Int64 zurück, beide haben einen Wertebereich, in den dieser...