AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Suchfunktion Ergebnis der Suchanfrage

Ergebnis der Suchanfrage


Datum des Suchindex: Heute, 10:32

Parameter dieser Suchanfrage:

Suche in Thema: Rundungsprobleme mit Extended
Suche alle Beiträge, die von "TM." geschrieben wurden
• Suchmethode: "Suche nach allen Begriffen"
• Nach Datum (firstpost) sortiert
• Zeige Treffer als Beiträge
Zeige 3 von insges. 3 Treffern
Suche benötigte 0.004s

Es liegen Ergebnisse in folgenden Bereichen vor:

  • Forum: Object-Pascal / Delphi-Language

    AW: Rundungsprobleme mit Extended

      Delphi
      by TM., 12. Sep 2010
    Hallo,

    @NamenLozer: Danke für den Hinweis, da ich aber auf meinem Laptop programmiere, dort aber nicht ins Internet gehe, ist es ein einfacher Abtippfehler. Programmiert ist es richtig.

    Mein Wertebereich ist leider ziemlich groß; sowohl vor als auch nach dem Komma, da ich mit Funktionen arbeite. Kann deine Lösung dann immer noch verwendet werden? Da es auch einige Arbeit ist, immer zu...
  • Forum: Object-Pascal / Delphi-Language

    AW: Rundungsprobleme mit Extended

      Delphi
      by TM., 12. Sep 2010
    Hallo,

    die drei Variablen haben auch den Typ Extended.
    Die Werte kommen aus einer Formel - es könnte natürlich sein, dass die Werte, die es mir während der Laufzeit anzeigt, gerundet sind - also die 1.
    Da ich aber zum Testen mit der Funktion 'f(x) = x' arbeite, sollten Steigung1, Steigung2 und Steigung3 auch denselben Wert haben.
    Steigung1 := (Calculate(Eingabe, X + 0.00001) -...
  • Forum: Object-Pascal / Delphi-Language

    Rundungsprobleme mit Extended

      Delphi
      by TM., 12. Sep 2010
    Hallo,

    ich habe bei meinem Programm eine Menge an Rundungsfehlern; manche kann ich nicht nachvollziehen, möglicherweise hängt das mit Bits und ihrer Funktionsweise zusammen..

    Erstens verwende ich FloatToStrF() mit ffFixed, da ich ansonsten eine nicht erwünschte Schreibweise wie "5E-09" bekomme - allerdings kann es sein, dass eine Zahl wie 3,24 nun in 3,23999999.. umgewandelt wird. Mit...


URL zu dieser Suchanfrage:

https://www.delphipraxis.net/dp_search.php?do=usersearch&search_username=TM.&search_exact_username=1&search_sortby=dateline&search_resulttype=post&search_matchmode=0&searchthreadid=154475
Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:50 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz