Einzelnen Beitrag anzeigen

nahpets
(Gast)

n/a Beiträge
 
#9

Re: Problem mit überlauf bzw. division durch null

  Alt 20. Okt 2008, 15:29
Hallo,

da hast Du quasi einen Rechenfehler:

i ist ein LongInt und der kann Werte bis maximal 2147483647 annehmen.

65536 * 65536 ist aber 4294967296, das ist doch ein bisserl mehr, als in i reinpasst.
Weißt Du nun i einen Wert größer als 2147483647 zu, so tritt der Effekt auf, dass alle Bits, die zuviel sind, links rüberkippen und nicht berücksichtigt werden.

Schreib Dir mal 'ne Testprogramm mit folgendem Aufbau:
Delphi-Quellcode:
Var
          l : LongInt;
          d : Double;
begin
  // erster Test
  l := 2147483647; // Mehr geht nicht in LongInt
  ShowMessage(IntToStr(l));
  l := l + 1; // und jetzt tuen wir da einen mehr rein, als reingeht.
  ShowMessage(IntToStr(l));
  // zweiter Test
  l := 2147483647; // Mehr geht nicht in LongInt
  l := l + l; // und das addieren wir zu uns selbst (= 2 * mehr geht nicht)
  ShowMessage(IntToStr(l));
  l := l + 2; // und da tuen wir jetzt noch zwei drauf
  ShowMessage(IntToStr(l));
  // dritter Test
  d := 2147483647; // Mehr geht nicht in LongInt
  d := d + 2147483647; // Mehr geht nicht in LongInt + Mehr geht nicht in LongInt
  d := d + 2; // + 2
  ShowMessage(FloatToStr(d));
  // vierter Test
  d := 65536; // unser Problemwert
  d := d * 65536; // * unserem Problemwert
  ShowMessage(FloatToStr(d));
end;
und beobachte die angezeigten Ergebnisse. Danach wird Dir klar, warum 65536 * 65536 manchmal 0 ist.
Und überprüf' bei Gelegenheit mal, ob die Ergebnisse von Zahlen, die größer als 65536 bei Dir sind, wirklich stimmen.
  Mit Zitat antworten Zitat