Einzelnen Beitrag anzeigen

messie

Registriert seit: 2. Mär 2005
Ort: Göttingen
1.592 Beiträge
 
Delphi 2009 Professional
 
#1

Zahlen für Vergleich in der Auflösung begrenzen

  Alt 5. Jun 2007, 14:07
Moin,

Ich habe zwei Arrays mit reals zu vergleichen. Die Zahlen sind im Evaluator sichtbar gleich (das würde auch für den Vergleich ausreichen), werden aber als ungleich erkannt, wohl weil sie zwischendrin mal mit unterschiedlicher Auflösung verarbeitet wurden.

Kann man die Auflösung von Fließkommazahlen so maskieren, um diesen Vergleich möglich zu machen?

Grüße, Messie
  Mit Zitat antworten Zitat