Ergebnis der Suchanfrage

• Forum: Programmieren allgemein

  Re: Überlauf bei Berechnung erkennen

   
    by himitsu, 23. Mai 2008
  alles wir eh nicht ASM werden ... vor 'ner Weile haten wir hier im Forum sogar mal irgendwo etwas gehabt, da war die menschliche ASM-Version viel langsamer, als Compileroptimierte Pascal-Variante :stupid:
  
  aktuell werd ich wohl nur irgendwann mal ADD und SUB in ASM erstellen, da ich dort die 64-Bit-Operationen dann loswerde
  
  ergibt etwa 'nen 10-tel an Opcode
  
  hatte das schonmal gemacht...
• Forum: Programmieren allgemein

  Re: Überlauf bei Berechnung erkennen

   
    by himitsu, 23. Mai 2008
  Ja, aber erstmall wird alles "möglichst" in Pascal erstellt
  und später kommt eventuell noch eine alternative ASM-Version dazu.
  
  erstmal ist es so einfacher eine andere Version daraus zu erstellen (vermutlich kommt bald noch ... wenn das hier läuft ... eine dynamische BigInt-Variante dazu)
  
  aber ich ha es nun geschafft und das auch ohne die rechnerrich anfallenden Überläufe beachten zu...
• Forum: Programmieren allgemein

  Re: Überlauf bei Berechnung erkennen

   
    by himitsu, 22. Mai 2008
  stimmt, in der Hilfe stand auch sowas, aber als ich angefangen die Überlauftests einzubauen kamen bei $Q keine Exceptions raus, aber dafür bei $R ... drum hatte ich es damals auf $R geändert.
  
  
  nja, hast mich zum nochmaligen Testen gebracht und ich werd's morgen ändern (geh gleich schlafen)
  
  mein Fehler war wohl, daß ich zuerst andere Fehler bekam und diese einfach übernahm :wall:
  
  tja,...
• Forum: Programmieren allgemein

  Re: Überlauf bei Berechnung erkennen

   
    by himitsu, 22. Mai 2008
  $Q = FloatOverflow
  $R = RageCheck + IntegerOverflow
  
  ich hatte zwar auch ers $Q, aber Delphi verwendet $R bei inem Integeroverflowcheck ... ist auch etwas verständlich, da es sich um einen festen Range (MinInt..MaxInt) handelt.
  
  
  -10000 + -100 = -10100 # $00000001
  T.Hi = 1 ... also zwar <> 0, aber dennoch kein wirklicher Überlauf
  
  der vermeintliche Überlauf entsteht, da im HiWord des...
• Forum: Programmieren allgemein

  Re: Überlauf bei Berechnung erkennen

   
    by himitsu, 22. Mai 2008
  jup, erstmal 'ne fixe Größe
  hab einen Integer mit fixer Größe geplant und einen Float ... die verhalten sich speichertechnisch halt genauso wie eine normale Variable.
  und dann soll's noch 'nen variablen Float geben.
  
  Es ist 2-er-Komplement ... halt "nur" 'ner Erweiterung des "normalen" Integers, mit des selben Definition.
  Wolte halt mal was anderes erschaffen, als sonst auf dem Markt ist...
• Forum: Programmieren allgemein

  Überlauf bei Berechnung erkennen

   
    by himitsu, 22. Mai 2008
  N'aben ihr, :hi:
  
  wie ihr vielleicht bemerkt habt, arbeite ich grad an 'ner (anfangs) kleinen BigInt-Implementation.
  
  Und obwohl erstmal (hoffentlich) richtig gerechnet wird,
  hab ich Probleme einen Integerüberlauf ( {$R+} ) zu erkennen ... ich seh einfach den Wald vor lauter Bäumen nicht mehr :cry:
  
  hier mal einige Werte und deren Ergebnisse:
  . # OverflowValue