Single wert ist unterschiedlich obwohl gleich

[EWeiss]

Versuch 1:

Delphi-Quellcode:

const
  SCALE_DEFAULT = 0.68;

Ich weise diesen wert zu und schicke ihn an meine DLL.
gSprFace.GD_SetObjectScale(ID, SCALE_DEFAULT);

In der DLL jedoch kommt dieser wert an "0,68000000715"
Wenn ich nun vergleiche
if (rScale > SCALE_DEFAULT) then dann wird mir True zurückgegeben logisch der wert aus der DLL ist mehr als 0.68 (Aber er wird zum weg in die DLL verändert) also Falsch!
Denn wie man sehen kann habe ich einen anderen übergeben.

Versuch 2:

Delphi-Quellcode:

const
  SCALE_DEFAULT = 0.68000000715;

Ich weise nun exakt diesen wert zu (der zur DLL verändert wird) und schicke ihn an meine DLL.
gSprFace.GD_SetObjectScale(ID, SCALE_DEFAULT);

In der DLL kommt dieser wert an "0,68000000715" den ich auch übergeben habe.
Wenn ich nun vergleiche
if (rScale > SCALE_DEFAULT) then

dann wird mir True zurückgegeben warum wenn beide werte gleich sind ?

Zwei Problem treten auf.
1. Schicke ich den ersten wert mit 0.68 dann wird dieser zu 0,68000000715 verändert
2. Schicke ich nun exakt diesen wert zu wird bei der Abfrage ebenfalls true zurück gegeben.

Kann ich nicht nachvollziehen.

gruss

[gammatester]

Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.

Wie ist rScale deklariert? Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet.

Speichere die Differenz mal als Single und schau das Ergbenis an.

Wie gesagt: die Auswertung erfolgt mit Double/Extended, hier die Werte für Double

Code:

0.68000000715  -> 0.68000000714999997430965095190913416445255279541015625
0.68           -> 0.68000000000000004884981308350688777863979339599609375

und für Extended

Code:

0.68000000715  -> 0.68000000715000000000524243981558925042918417602777481079102
0.68           -> 0.68000000000000000000650521303491302660404471680521965026855

[EWeiss]

Zitat von gammatester:

Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.
Wie ist rScale deklariert?

rScale ist natürlich als Single definiert.

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

OK habe es selbst herausgefunden. Danke!

Delphi-Quellcode:

const
  SCALE_DEFAULT: single = 0.68;

Noch nie ein ähnliches Problem gehabt.

gruss

[gammatester]

Zitat von EWeiss:

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

Versuch mal Folgendes:

Delphi-Quellcode:

tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...

oder wahrscheinlich besser definiere SCALE_DEFAULT als single

Delphi-Quellcode:

const
  SCALE_DEFAULT: single = 0.68;

[EWeiss]

Zitat von gammatester:

Zitat von EWeiss:

Zitat:

Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet

Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

Versuch mal Folgendes:

Delphi-Quellcode:

tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...

Ich habe es so gelöst.. Danke.

Delphi-Quellcode:

const
   SCALE_DEFAULT: single = 0.68;

gruss

[gammatester]

Zitat von EWeiss:

Ich habe es so gelöst.. Danke.

Delphi-Quellcode:

const
   SCALE_DEFAULT: single = 0.68;

gruss

Freut mich zu lesen, mein Edit hatte sich mit Deiner Antwort gekreuzt.