Delphi "Ungueltige Gleitkommaoperation" bei Round

Thema durchsuchen

Ansicht

Themen-Optionen

"Ungueltige Gleitkommaoperation" bei Round

Ein Thema von MrAtoZ · begonnen am 30. Jun 2007 · letzter Beitrag vom 30. Jun 2007

Vorheriger Beitrag

Nächster Beitrag

kolbaschedder

Registriert seit: 24. Aug 2006
Ort: Schwäbisch Gmünd
55 Beiträge

Delphi 2006 Professional

Re: "Ungueltige Gleitkommaoperation" bei Round

30. Jun 2007, 14:31

Hallo,

Bei der Berechnung von 128^107 landet man irgendwo im Bereich 2^225. Geteilt durch 187 ändert daran auch nicht viel. round liefert einen int64 zurück. Dessen Gültigkeitsbereich liegt irgendwo bei 2^63. Das Ergebnis deiner Berechnung liegt also weit ausserhalb eines int64.
Leider fällt mir gerade auch keine Funktion ein, welche einen Extended-Typ rundet. Ausserdem würde er sowieso das korrekte Ergebnis nicht speichern können.

MfG

Kolbi