Thema: Delphi LSB Parity Checksumme

Einzelnen Beitrag anzeigen

Reinhard Kern

Registriert seit: 22. Okt 2006
772 Beiträge
 
#8

Re: LSB Parity Checksumme

  Alt 30. Mai 2007, 08:22
Zitat von OldGrumpy:
Ich hatte irgendwann mal einen Fall wo das klemmte, das ist aber schon ewig her - ich kann aus dem Effeff nicht mal sagen, welcher Compiler das damals war, vielleicht sogar noch Turbo Pascal :)
....
Hallo,

generell geht Borland mit der Auswahl von Zahlenformaten alles andere als intelligent um - ich hatte da schon bessere Compiler, die z.B. wissen, dass man für ein Ergebnis in Double auch alle Zwischenergebnisse innerhalb einer Formel in Double rechnen sollte. Bei Borland lag (liegt?) das aber am deklarierten Typ des Zwischenergebnisses, und ich musste daher manchmal ein solches Zwischenergebnis typecasten, etwa auf Double, damit der Compiler keine unerwünschten Rundungen durchführt. Das wird auch irgendwo in den Unterlagen beschrieben, aber man muss trotzdem erst mal draufkommen, warum die Ergebnisse so ungenau sind.

Im vorliegenden Fall ist das egal, weil das Ergebnis ja weniger Stellen hat als alles andere, aber deine Vorsichtsmassnahmen sind sicher richtig und ersetzen das von mir verwendete Typecasting.

Gruss Reinhard
  Mit Zitat antworten Zitat