Einzelnen Beitrag anzeigen

Benutzerbild von stoxx
stoxx

Registriert seit: 13. Aug 2003
1.111 Beiträge
 
#8

Re: Exponent aus Extended extrahieren?

  Alt 2. Mai 2009, 14:51
Zitat:
Du weißt aber, daß du so über 'nen Extended gehst/rechnest und damit unter Umständen die letze (9.) Kommastelle einbüßt.
ja, deswegen die umständliche seperate Berechnung des Vorkomma und Nachkomma Anteils...

Zitat:
FBCD9 ist och ein Int64?
ja das ist korrekt


die Werte haben folgenden Wertebereich

Delphi-Quellcode:
   FBCD9Min = int64($8000000000000001); // -9223372036.854775807
FBCD9Max = int64($7FFFFFFFffffffff); // 9223372036.854775807

Zitat:
Bei größerem Wertebereich müßte am den Überlauf abfangen, also sozusagen die Multiplikation mit 128 Bit-Integern berechnen, bzw. die Berechnung auf 2 64-Bit oder besser noch auf 4 (vier) 3 32-Bit-Integer (für 32-Bit-CPUs) zerlegen.
ähm
Phantasie ist etwas, was sich manche Leute gar nicht vorstellen können.
  Mit Zitat antworten Zitat