AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Suchfunktion Ergebnis der Suchanfrage

Ergebnis der Suchanfrage


Datum des Suchindex: Heute, 10:17

Parameter dieser Suchanfrage:

Suche in Thema: Genauigkeit von Datentypen
Suche alle Beiträge, die von "himitsu" geschrieben wurden
• Suchmethode: "Suche nach allen Begriffen"
• Nach Datum (firstpost) sortiert
• Zeige Treffer als Beiträge
Zeige 4 von insges. 4 Treffern
Suche benötigte 0.003s

Es liegen Ergebnisse in folgenden Bereichen vor:

  • Forum: Algorithmen, Datenstrukturen und Klassendesign

    AW: Genauigkeit von Datentypen

     
      by himitsu, 26. Feb 2015
    Andere brauchen mit ihrem Quarter nur eine viertel Nachkommastelle. :stupid:

    Und dann noch bissl zum Rechnen, Positionsweise MwSt. usw.

    Knapp 9 Billiarden Euro, auf einen tausenstel Euro genau ... da hätte man ruhig noch für ein/zwei Nachkommastellen mehr Platz gehabt. :stupid:
  • Forum: Algorithmen, Datenstrukturen und Klassendesign

    AW: Genauigkeit von Datentypen

     
      by himitsu, 26. Feb 2015
    Muss?
    Currency = 4 Nachkommastellen

    Bei Epsilon=0.011 ist 0.01 = 0.02 .
    Epsilon muß kleiner als die Hälfte der kleinsten erlaubten Differenz sein, um "sicher" vergleichen zu können.
    Wenn A=3, B=4 und Epsilon=>0.5, dann würde 3.5 verglichen mit A und B jeweils "gleich" sein.
  • Forum: Algorithmen, Datenstrukturen und Klassendesign

    AW: Genauigkeit von Datentypen

     
      by himitsu, 26. Feb 2015
    Und wenn man die 0.005 weg lässt, dann wird automatisch ein typspezifischer Wert genommen.

    const
    FuzzFactor = 1000;
    ExtendedResolution = 1E-19 * FuzzFactor;
    DoubleResolution = 1E-15 * FuzzFactor;
    SingleResolution = 1E-7 * FuzzFactor;

    function SameValue(const A, B: Extended; Epsilon: Extended): Boolean;
    begin
  • Forum: Algorithmen, Datenstrukturen und Klassendesign

    AW: Genauigkeit von Datentypen

     
      by himitsu, 25. Feb 2015
    Jupp, das kann darf sein, denn genau aus dem Grund gibt es eben das Currency oder die BCD-Typen.
    Und aus selbem Grund darf man reelle Typen niemals per Operator (vorallem =) "genau" vergleichen, sondern verwendet z.B. CompareValue, SameValue, IsZero usw.


    Auf wieviele Stellen man sich "verlassen" kann, das steht in der Dokumentation, aber danach kann/wird es Abweichungen geben, vorallem...


URL zu dieser Suchanfrage:

https://www.delphipraxis.net/dp_search.php?do=usersearch&search_username=himitsu&search_exact_username=1&search_sortby=dateline&search_resulttype=post&search_matchmode=0&searchthreadid=184097
Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:36 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz