AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi Präzision von Variants und Flieskommazahlen

Präzision von Variants und Flieskommazahlen

Ein Thema von ele · begonnen am 28. Jun 2010 · letzter Beitrag vom 28. Jun 2010
Antwort Antwort
ele

Registriert seit: 18. Feb 2009
129 Beiträge
 
Delphi 2010 Professional
 
#1

Präzision von Variants und Flieskommazahlen

  Alt 28. Jun 2010, 11:00
Delphi-Version: 2010
Hallo Zusammen,

Ich musste eben etwas schockiert festellen, dass Werte an Genauigkeit einbüssen, wenn sie von einem Extended einem Variant zugewiesen wird:

Delphi-Quellcode:
procedure TForm1.Button1Click(Sender: TObject);
var
  Msg: String;
  Precision: Extended;
  Original: Extended;
  Epsilon: Extended;
  E: Extended;
  V: Variant;

begin
  Original := 12345.6789;
  E := Original;
  V := E;
  E := V;

  if Original = E then
  begin
    Msg := 'Genau gleich.';
  end
  else
  begin
    Precision := 1e-20;
    while not SameValue(Original, E, Precision) do
      Precision := Precision * 10;

    Msg := 'Nicht gleich. Fehler bei ' + FloatToStr(Precision);
  end;

  ShowMessage(Msg);
end;
Was rauskommt ist: Nicht gleich. Fehler bei 1E-12

Das ist irgendwie alles andere als erfreulich - zumal ich ja noch nicht einmal damit gerechnet habe. Ist das etwas bekanntes? Kann man das irgendwie flicken?
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu
Online

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
43.363 Beiträge
 
Delphi 12 Athens
 
#2

AW: Präzision von Variants und Flieskommazahlen

  Alt 28. Jun 2010, 11:08
Der Typ Variant kennt nur maximal Double.

Siehe System.TVarData ... da erkennst du alle möglichen Typen.

Wenn du mehr willst, dann könntest du dir höchstens einen eigenen neuen Variant-Typen erstellen und über die Unit Variants registrieren.
Der neue Typ wird dann aber nur von deinem Delphi-Programm komplett und in vollem Umfang verstanden (externe Programme/DLLs/Codes würden dann. über einen von dir erstellten Konverter auch nur kleinere Auflösungen verstehen können).


PS: Angeblich soll in zukünftigen Delphi-Versionen Extendet nicht mehr offiziell unterstützt werden, sondern nur noch für interne Berechnungen diehnen ... Single, Double und Currency wären damit die offiziell nutzbaren (Fließkomma)-Typen.
Garbage Collector ... Delphianer erzeugen keinen Müll, also brauchen sie auch keinen Müllsucher.
my Delphi wish list : BugReports/FeatureRequests
  Mit Zitat antworten Zitat
ele

Registriert seit: 18. Feb 2009
129 Beiträge
 
Delphi 2010 Professional
 
#3

AW: Präzision von Variants und Flieskommazahlen

  Alt 28. Jun 2010, 11:20
Danke für die Antwort, das erklärt einiges.

Mit Double scheint alles zu klappen. Das mit dem eigenen Variant-Type behalte ich mal im Hinterkopf, im Moment genügt mir doppelte genauigkeit.
  Mit Zitat antworten Zitat
Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 15:32 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz