Zahlen für Vergleich in der Auflösung begrenzen

[messie]

Moin,

Ich habe zwei Arrays mit reals zu vergleichen. Die Zahlen sind im Evaluator sichtbar gleich (das würde auch für den Vergleich ausreichen), werden aber als ungleich erkannt, wohl weil sie zwischendrin mal mit unterschiedlicher Auflösung verarbeitet wurden.

Kann man die Auflösung von Fließkommazahlen so maskieren, um diesen Vergleich möglich zu machen?

Grüße, Messie

[Nikolas]

vielleicht reicht dir schon ein isequal

[Flax]

Ich errinere mich, dass ich von "Real" deswegen abgekommen bin. Jetzt benutze ich stattdessen "Currency".

Weiß nicht, ob es dir hilft?!?

[Flax]

Ach, ich würde immer zur Berechnung dieser Fließkommawerte IMMER denselben Datentyp benutzen! Das ist dann wohl auch dein Problem.

[messie]

Zitat von Nikolas:

vielleicht reicht dir schon ein isequal

Das hat als Hinweis immerhin gereicht, um besser suchen zu können. Dabei bin ich auf die Funktion Math.RoundTo gestoßen, die mir das bietet was ich brauche. In dem Thread den ich fand hattest Du übrigens auch nicht erläutert, wo die Funktion steht und was sie macht

Zitat:

Ach, ich würde immer zur Berechnung dieser Fließkommawerte IMMER denselben Datentyp benutzen! Das ist dann wohl auch dein Problem.

Die Werte werden in ein TChart gesteckt, dort werden sie teilweise mit der Maus per Ziehen verändert und hinterher zurückgelesen. Da kann ich nicht erwarten, daß dieselbe Auslösung rauskommt, die ich reingesteckt habe....

Danke, Messie

[Nikolas]

Zitat:

In dem Thread den ich fand hattest Du übrigens auch nicht erläutert, wo die Funktion steht und was sie macht

Ein bischen selbst suchen ist schon nötig

Und bei dem Namen...

[cruiser]

hm... keine Ahnung ob das schneller als 2 RoundTo ist:

Delphi-Quellcode:

function FloatEqual(const a,b: Extended): Boolean;
const
  MAX_DIFF = 0.0001; // deine maximale differenz
begin
  Result := Abs(a - b) <= MAXDIFF;
end;

[Nikolas]

Das ist genau die Funktionsweise von isequal, wobei bei der offiziellen Funktion sicherlich ein besserer Wert für MAXDIFF gewählt wurde. Und sie wurde sicherlich optimiert.

[cruiser]

Gut möglich... aber unter D7 hab ich die Funktion nich... auch nich in der Math. Dann wirds der Threadertseller im 6er sicher nicht haben

EDIT: oki, oki... heisst SameValue