AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Programmieren allgemein Delphi Single wert ist unterschiedlich obwohl gleich

Single wert ist unterschiedlich obwohl gleich

Ein Thema von EWeiss · begonnen am 17. Jun 2018 · letzter Beitrag vom 19. Jun 2018
Antwort Antwort
Seite 1 von 4  1 23     Letzte » 
EWeiss
(Gast)

n/a Beiträge
 
#1

Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:14
Versuch 1:
Delphi-Quellcode:
const
  SCALE_DEFAULT = 0.68;
Ich weise diesen wert zu und schicke ihn an meine DLL.
gSprFace.GD_SetObjectScale(ID, SCALE_DEFAULT);

In der DLL jedoch kommt dieser wert an "0,68000000715"
Wenn ich nun vergleiche
if (rScale > SCALE_DEFAULT) then dann wird mir True zurückgegeben logisch der wert aus der DLL ist mehr als 0.68 (Aber er wird zum weg in die DLL verändert) also Falsch!
Denn wie man sehen kann habe ich einen anderen übergeben.

Versuch 2:
Delphi-Quellcode:
const
  SCALE_DEFAULT = 0.68000000715;
Ich weise nun exakt diesen wert zu (der zur DLL verändert wird) und schicke ihn an meine DLL.
gSprFace.GD_SetObjectScale(ID, SCALE_DEFAULT);

In der DLL kommt dieser wert an "0,68000000715" den ich auch übergeben habe.
Wenn ich nun vergleiche
if (rScale > SCALE_DEFAULT) then

dann wird mir True zurückgegeben warum wenn beide werte gleich sind ?

Zwei Problem treten auf.

1. Schicke ich den ersten wert mit 0.68 dann wird dieser zu 0,68000000715 verändert
2. Schicke ich nun exakt diesen wert zu wird bei der Abfrage ebenfalls true zurück gegeben.

Kann ich nicht nachvollziehen.

gruss
  Mit Zitat antworten Zitat
gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#2

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:22
Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.

Wie ist rScale deklariert? Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet.

Speichere die Differenz mal als Single und schau das Ergbenis an.

Wie gesagt: die Auswertung erfolgt mit Double/Extended, hier die Werte für Double
Code:
0.68000000715  -> 0.68000000714999997430965095190913416445255279541015625
0.68           -> 0.68000000000000004884981308350688777863979339599609375
und für Extended
Code:
0.68000000715  -> 0.68000000715000000000524243981558925042918417602777481079102
0.68           -> 0.68000000000000000000650521303491302660404471680521965026855

Geändert von gammatester (17. Jun 2018 um 22:34 Uhr)
  Mit Zitat antworten Zitat
EWeiss
(Gast)

n/a Beiträge
 
#3

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:27
Der Wert für 0.68 als Single ist 0.680000007152557373046875. Also ist er in der DLL richtig.
Wie ist rScale deklariert?
rScale ist natürlich als Single definiert.

Zitat:
Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet
Was muss ich jetzt tun?
Hatte noch nie so ein Problem.

OK habe es selbst herausgefunden. Danke!

Delphi-Quellcode:
const
  SCALE_DEFAULT: single = 0.68;
Noch nie ein ähnliches Problem gehabt.

gruss

Geändert von EWeiss (17. Jun 2018 um 22:39 Uhr)
  Mit Zitat antworten Zitat
gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#4

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:38
Zitat:
Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet
Was muss ich jetzt tun?
Hatte noch nie so ein Problem.
Versuch mal Folgendes:
Delphi-Quellcode:
tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...
oder wahrscheinlich besser definiere SCALE_DEFAULT als single
Delphi-Quellcode:
const
  SCALE_DEFAULT: single = 0.68;

Geändert von gammatester (17. Jun 2018 um 22:40 Uhr)
  Mit Zitat antworten Zitat
EWeiss
(Gast)

n/a Beiträge
 
#5

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:40
Zitat:
Der Ausdruck `rScale > SCALE_DEFAULT` wird je nach Compiler als Double oder Extended ausgewertet
Was muss ich jetzt tun?
Hatte noch nie so ein Problem.
Versuch mal Folgendes:
Delphi-Quellcode:
tmpsingle := rScale - SCALE_DEFAULT;
if tmpsingle > 0 then ...
Ich habe es so gelöst.. Danke.
Delphi-Quellcode:
const
   SCALE_DEFAULT: single = 0.68;
gruss
  Mit Zitat antworten Zitat
gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#6

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:45
Ich habe es so gelöst.. Danke.
Delphi-Quellcode:
const
   SCALE_DEFAULT: single = 0.68;
gruss
Freut mich zu lesen, mein Edit hatte sich mit Deiner Antwort gekreuzt.
  Mit Zitat antworten Zitat
EWeiss
(Gast)

n/a Beiträge
 
#7

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 22:51
Ich habe es so gelöst.. Danke.
Delphi-Quellcode:
const
   SCALE_DEFAULT: single = 0.68;
gruss
Freut mich zu lesen, mein Edit hatte sich mit Deiner Antwort gekreuzt.
Macht ja nichts
Danke trotzdem.
Die kleine Abfrage hat bei mir 35% CPU Auslastung verursacht weil es immer true war.

gruss
  Mit Zitat antworten Zitat
Benutzerbild von jaenicke
jaenicke

Registriert seit: 10. Jun 2003
Ort: Berlin
7.417 Beiträge
 
Delphi 10.3 Rio
 
#8

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 17. Jun 2018, 23:17
Wenn das an einer Stelle wichtig ist, würde ich immer zusätzlich zum Vergleich IsZero benutzen um mit einem genügend kleinen Epsilon die Gleichheit auszuschließen.
Sebastian Jänicke
Alle eigenen Projekte sind eingestellt, ebenso meine Homepage, Downloadlinks usw. im Forum bleiben aktiv!
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
35.207 Beiträge
 
Delphi 10.3 Rio
 
#9

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 18. Jun 2018, 11:08
Single = 7-8 signifikante Dezimalstellen, also im Wost-Case nur 7.
Die erste Signifikante ist von links die erste Nicht-Null.

0.68000000715

Selbst Schuld, wenn du einen Wertebereich haben willst, der nichtmals Ansatzweise in den Datentyp passt.
Und selbst wenn, dann sind auch innerhalb der Signifikanten Rundungsfehler möglich, vor allem bei gewissen unendlich langen Werten ala 2/3.

Single hat einen 8 Bit-Exponent und eine Mantisse von 23 Bit Länge, inkl. einem virtuellen Bit, wenn der Exponent 0 ist, also 24.
2^24 = 16.777.215 = nicht ganz 8 Dezimalstellen (nur 1. bis 7. können alles von 0 bis 9 sein)
Garbage Collector ... Delphianer erzeugen keinen Müll, also brauchen sie auch keinen Müllsucher.
Delphi-Tage 2005-2014

Geändert von himitsu (18. Jun 2018 um 11:29 Uhr)
  Mit Zitat antworten Zitat
EWeiss
(Gast)

n/a Beiträge
 
#10

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 18. Jun 2018, 11:56
Zitat:
Selbst Schuld, wenn du einen Wertebereich haben willst, der nichtmals Ansatzweise in den Datentyp passt.
0.68 passt nicht rein?
Nun gut wenn du das sagst ist es wohl so.

Zitat:
Und selbst wenn, dann sind auch innerhalb der Signifikanten Rundungsfehler möglich, vor allem bei gewissen unendlich langen Werten ala 2/3.
Hallo ?
Und wer erstellt diese? Genau! Delphi.
Ich habe übergeben 0.68 und Delphi mach daraus deinen unendlich langen Werten 0.68000000715 lese doch bitte nochmal was ich geschrieben habe.

Zitat:
2^24 = 16.777.215 = nicht ganz 8 Dezimalstellen (nur 1. bis 7. können alles von 0 bis 9 sein)
Sage das den Entwicklern des Delphi Compiler nicht mir
Wie gesagt.. Ich habe 0.68 übergeben und erwarte eigentlich das dieser wert auch berechnet wird.

gruss

Geändert von EWeiss (18. Jun 2018 um 12:40 Uhr)
  Mit Zitat antworten Zitat
Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 22:47 Uhr.
Powered by vBulletin® Copyright ©2000 - 2020, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2019 by Daniel R. Wolf