Einzelnen Beitrag anzeigen

DJ_Tom

Registriert seit: 28. Mär 2005
14 Beiträge
 
#1

verzweifle an fließkommazahlen....:-(

  Alt 28. Dez 2005, 04:56
Hallo,

ich sitze hier schon stundenlang an einem vermutlich simplen Problem aber ich weiß ehrlich gesagt absolut nicht mehr weiter...

Also folgendes:

Ich schreibe mir in das folgende Array ein paar Speicherinhalte

Code:
buffer:array[1..100000] of double;
wenn ich mir das zur Laufzeit ansehe, was da so drin steht dann ist das z.b. sowas hier: 2.121995791e-314

Jetzt möchte ich diese Zahl mit einer Integer bzw. Longint vergleichen aber egal was ich anstelle ob ich versuche die mit round auf ne Integer-Zahl zu runden oder einfach per floattostr zu nem string konventieren will bekomme ich immer den fehler:

Üngültige Gleitkommaoperation

Wie kann man so ne Zahl handlen damit man sie mit ner Integer-zahl vergleichen kann...bzw. wie bekomme ich die Integer-Zahl auf dieses Format damit ich sie direkt vergleichen kann...

Das nächste Problem ist nämlich die Umwandlung der Double dauert ziemlich lang daher wäre es praktisch wenn man die Integer Zahl anpassen könnte....

Wäre Euch sehr dankbar wenn Ihr da ne Idee hättet....

Bis denne....
  Mit Zitat antworten Zitat