AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi Präzision von Variants und Flieskommazahlen
Thema durchsuchen
Ansicht
Themen-Optionen

Präzision von Variants und Flieskommazahlen

Ein Thema von ele · begonnen am 28. Jun 2010 · letzter Beitrag vom 28. Jun 2010
 
ele

Registriert seit: 18. Feb 2009
129 Beiträge
 
Delphi 2010 Professional
 
#1

Präzision von Variants und Flieskommazahlen

  Alt 28. Jun 2010, 11:00
Delphi-Version: 2010
Hallo Zusammen,

Ich musste eben etwas schockiert festellen, dass Werte an Genauigkeit einbüssen, wenn sie von einem Extended einem Variant zugewiesen wird:

Delphi-Quellcode:
procedure TForm1.Button1Click(Sender: TObject);
var
  Msg: String;
  Precision: Extended;
  Original: Extended;
  Epsilon: Extended;
  E: Extended;
  V: Variant;

begin
  Original := 12345.6789;
  E := Original;
  V := E;
  E := V;

  if Original = E then
  begin
    Msg := 'Genau gleich.';
  end
  else
  begin
    Precision := 1e-20;
    while not SameValue(Original, E, Precision) do
      Precision := Precision * 10;

    Msg := 'Nicht gleich. Fehler bei ' + FloatToStr(Precision);
  end;

  ShowMessage(Msg);
end;
Was rauskommt ist: Nicht gleich. Fehler bei 1E-12

Das ist irgendwie alles andere als erfreulich - zumal ich ja noch nicht einmal damit gerechnet habe. Ist das etwas bekanntes? Kann man das irgendwie flicken?
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 23:53 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz