Einzelnen Beitrag anzeigen

silver-moon-2000

Registriert seit: 18. Feb 2007
Ort: Schweinfurt
170 Beiträge
 
Delphi XE Professional
 
#4

Re: Warum Integer-Overlow

  Alt 15. Apr 2008, 15:51
Zitat von SirThornberry:
Das Ergebnis deiner Berechnung wird zwar einem extended zugwiesen aber es werden keine extended werte multipliziert sondern Integerwerte. Dementsprechend werden Integeroperationen angewendet. Erst wenn das Ergebnis berechnet wird kommt der Extended ins Spiel.
Zitat von mkinzler:
Weil einzeln gerechnet wird.

fWidth * fHeight * fFrameCount wird wohl zu groß werden.
Hmm, und ich dachte, es wird gleich am Anfang in extended "gewandelt", und nicht erst bei der zuweisung.
Wieder was gelernt. Danke
Tobias
Bitte nicht hauen , ich weiß es nicht besser
  Mit Zitat antworten Zitat