Einzelnen Beitrag anzeigen

Benutzerbild von DelphiBandit
DelphiBandit

Registriert seit: 19. Feb 2007
Ort: bei Walsrode
165 Beiträge
 
Delphi 10.4 Sydney
 
#2

AW: round(): Invalid Floating Point Operation

  Alt 16. Nov 2010, 08:39
Wenn mich meine Binärkenntnisse nicht im Stich lassen, dann geht ein Int64 mit Vorzeichen von -2^63 bis 2^63-1. Was da ungefähr, sagt Calc =

-9223372036854775808=19 Stellen entspricht

-153*10^17 ist -15300000000000000000=20 Stellen

Andere Option wäre UInt64, dies geht bis 0..2^64-1, aber damit ist das negative Vorzeichen nicht abzubilden.
Carsten
  Mit Zitat antworten Zitat