Ergebnis der Suchanfrage

• Forum: Sonstige Fragen zu Delphi

  Re: Zahlen für Vergleich in der Auflösung begrenzen

   
    by messie, 5. Jun 2007
  Das hat als Hinweis immerhin gereicht, um besser suchen zu können. Dabei bin ich auf die Funktion Math.RoundTo gestoßen, die mir das bietet was ich brauche. In dem Thread den ich fand hattest Du übrigens auch nicht erläutert, wo die Funktion steht und was sie macht :)
  Die Werte werden in ein TChart gesteckt, dort werden sie teilweise mit der Maus per Ziehen verändert und hinterher...
• Forum: Sonstige Fragen zu Delphi

  Zahlen für Vergleich in der Auflösung begrenzen

   
    by messie, 5. Jun 2007
  Moin,
  
  Ich habe zwei Arrays mit reals zu vergleichen. Die Zahlen sind im Evaluator sichtbar gleich (das würde auch für den Vergleich ausreichen), werden aber als ungleich erkannt, wohl weil sie zwischendrin mal mit unterschiedlicher Auflösung verarbeitet wurden.
  
  Kann man die Auflösung von Fließkommazahlen so maskieren, um diesen Vergleich möglich zu machen?
  
  Grüße, Messie