"invalid floating point operation" finde den Fehler nicht

[Bummi]

es gibt 3 Stellen wo der beschriebene Fehler auftreten kann

Bst:=Bst*b; // Überlauf gegf. Double statt Extended

/ strtoint(edit2.text) // Division durch 0

Trunc( // wenn die Zahl zu groß ist

[St0rmhunter]

@DeddyH

Zitat:

Bist Du einmal durchgesteppt und hast Dir die aktuellen Variableninhalte einmal angesehen?

Mit durchsteppen hast du bestimmt das mit F7 gemeint, also den nächsten Befehl immer erst nach F7 ausführen oder? Wenn ja ... das klappt bei mir irgendwie nicht

Zitat:

solltest Du vielleicht ein paar Zwischenvariablen und eine minimale Fehlerbehandlung einbauen, das erleichtert die Fehlersuche enorm.

Dann wo denkst du denn sind Zwischenvariablen angebracht? Wüsste nicht wo es hilfreich wäre oder nützlich wäre.
Und zu der Idee mit der minimalen Fehlerbehandlung, sry aber ich weiß nicht was du damit meinst?


@Bummi

Zitat:

Bst:=Bst*b; // Überlauf gegf. Double statt Extended

Double ist kleiner als Extended

Double: 2.23 x 10^-308 bis 1.79 x 10^308 (http://www.delphibasics.co.uk/RTL.asp?Name=Double)
Extended: 3.37 x 10^-4932 to 1.18 x 10^4932 (http://www.delphibasics.co.uk/RTL.asp?Name=Extended)

Zitat:

strtoint(edit2.text) // Division durch 0

Auch ist die Division durch 0 nicht "möglich" weil in edit2 nur positive Zahlen geschrieben werden sollen. Klar wenn der Nutzer 0 reinschreibt isses ne Division durch 0, aber normalerweise stehen da nur positive Zahlen im Feld.

Zitat:

Trunc( // wenn die Zahl zu groß ist

Wie groß darf denn die Zahl bei Trunc( maximal sein?

[DeddyH]

Welcher Code ist wohl lesbarer und besser zu debuggen?
Beispiel 1:

Delphi-Quellcode:

//Keine Trennung von Logik und Darstellung
Edit3.Text := IntToStr(StrToInt(Edit1.Text) div StrToInt(Edit2.Text));

Beispiel 2:

Delphi-Quellcode:

var
  Dividend, Divisor, Ergebnis: integer;
begin
  if not TryStrToInt(Edit1.Text, Dividend) then
    begin
      ShowMessage('Edit1 enthält keine gültige Zahl');
      exit;
    end;
  if not TryStrToInt(Edit2.Text, Divisor) then
    begin
      ShowMessage('Edit2 enthält keine gültige Zahl');
      exit;
    end;
  if Divisor = 0 then
    begin
      ShowMessage('Divisor darf nicht 0 sein');
      exit;
    end;
  Ergebnis := Dividend div Divisor;
  Edit3.Text := IntToStr(Ergebnis);

Und wenn der Debugger nicht will (Projektoptionen auf Release gestellt?), dann kann man sich zur Not immer noch mit Zwischenausgaben (ShowMessage z.B.) behelfen.

[p80286]

Zitat von St0rmhunter:

@DeddyH

Zitat:

Bist Du einmal durchgesteppt und hast Dir die aktuellen Variableninhalte einmal angesehen?

Mit durchsteppen hast du bestimmt das mit F7 gemeint, also den nächsten Befehl immer erst nach F7 ausführen oder? Wenn ja ... das klappt bei mir irgendwie nicht

irgendwie?
was klappt denn da nicht? gibt es eine Fehlermeldung?
vllt hilft es unter den Projektoptionen / Compiler dem Debugger auf die Sprünge zu helfen?

Zitat von St0rmhunter:

Dann wo denkst du denn sind Zwischenvariablen angebracht? Wüsste nicht wo es hilfreich wäre oder nützlich wäre.
Und zu der Idee mit der minimalen Fehlerbehandlung, sry aber ich weiß nicht was du damit meinst?

Hier z.B.
for j:=2 to strtoint(edit3.text) do

Delphi-Quellcode:

maxj:=strtoint(edit3.text);
if maxj<2 then showmessage('vertan');
for j:=2 to maxj do

Zitat:

strtoint(edit2.text) // Division durch 0

Auch ist die Division durch 0 nicht "möglich" weil in edit2 nur positive Zahlen geschrieben werden sollen. Klar wenn der Nutzer 0 reinschreibt isses ne Division durch 0, aber normalerweise stehen da nur positive Zahlen im Feld.
[/QUOTE]

"normalerweise" ist nicht das gleiche wie NIE!

Normalerweise scheint im Sommer die Sonne und es ist warm (die Frage ist nur wo, und warm ist ziemlich relativ )

Gruß
K-H

[Bummi]

sorry für meinen Extendedlapsus
die Grenze für Trunc liegt bei 9223372036854775807 = 2^63 - 1 , ab genau welcher Version auch für Int64 implementiert wurde weiß ich allerdings nicht

[Bjoerk]

So ist es.

Das wird nicht compiliert:

Delphi-Quellcode:

  ShowMessage (FloatToStr(Trunc(High(Int64)+1)));
  ShowMessage (FloatToStr(Int(High(Int64)+1)));

[St0rmhunter]

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

[Bummi]

Um mit F7 steppen zu können muß Du im Code vorher Breakpoints setzen, F5 oder Mausklick links neben dem Quelltext, wenn Du XE verwendest nicht über den grünen Pfeil, sondern über den grünen Pfeil mit Käfer starten.

Theoretisch gäbe es die Funktion Frac aus der Unit Math, die taugt aber für derart große Zahlen auch nicht mehr.

Gegf. arbeitest Du Dich da mal ein:

http://www.delphi-forum.de/viewtopic...hlight=bignum2

[Bjoerk]

Zitat von St0rmhunter:

Ok danke für die Tipps mit den Showmessages =)

Das mit F7 funktioniert einfach nicht, ich kann f7 drücke oder übers menu gehen und es passiert einfach nichts, das meinte ich mit funktioniert irgendwie nicht ^^

So der Fehler wird dann bei Trunc( liegen, da meine zahlen meistens viel größer sind wie z.B. 142^23 oder ähnlich groß.
Hätte jemand eine Idee wie ich denn bei so großen Zahlen den Rest berechnen kann? Der Windows Rechner kanns ja

Für Trunc( sind die Zahlen zu groß mod ist nicht für Extended ...
Hätte keine Idee mehr, einer von euch?

Aber soweit schonmal danke für eure Hilfe

Sieht nach RSA-Verschlüsselung aus. Probier mal so:

Delphi-Quellcode:

implementation

{$Q+}

function PowerAndMod(A, E, M: int64): int64;
begin
  if (A > MaxInt) or (E > MaxInt) then
    raise Exception.Create('int64 Overflow');
  Result:= 1;
  try
    while E > 0 do
      if E mod 2 <> 0 then
      begin
        Result:= (Result*A) mod M;
        E:= E-1;
      end
      else
      begin
        A:= (A*A) mod M;
        E:= E div 2;
      end;
  except
    raise Exception.Create('int64 Overflow');
  end;
end;