AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Rundungsfehler mit Extended Werten??

Ein Thema von erniepb · begonnen am 4. Jul 2002 · letzter Beitrag vom 4. Jul 2002
Antwort Antwort
erniepb

Registriert seit: 8. Jun 2002
Ort: Berlin
96 Beiträge
 
Delphi 7 Enterprise
 
#1

Rundungsfehler mit Extended Werten??

  Alt 4. Jul 2002, 19:43
Wenn man ner Variable vom Typ Extended n Wert zuweist, zum Beispiel über StrToFloat('123456789,123456789123456789') dann kommt es zu n doch recht großen Rundung .. weil die Varible hat dann den Wert 123456789,12 .. was dann zu nem Problem wird, wenn man mit dem Wert weiter rechnet .. Rundungsungenauigkeiten ..

Hat jemand ne Idee wie man das Problem lösen kann ?? Also kennt jemand n Zahlentyp .. bei dem es nicht zu so extremen Rundungen kommt ??

Danke ..
  Mit Zitat antworten Zitat
Tpercon

Registriert seit: 7. Jun 2002
638 Beiträge
 
Delphi 5 Professional
 
#2
  Alt 4. Jul 2002, 19:53
Wie sieht's bei Currency aus?

Gruß
  Mit Zitat antworten Zitat
Benutzerbild von RomanK
RomanK

Registriert seit: 7. Jun 2002
Ort: Kirchheim unter Teck
1.036 Beiträge
 
Delphi 7 Personal
 
#3
  Alt 4. Jul 2002, 19:54
Du kannst die Zahl davor ja mal die Anzahl der Stellen nehmen die du mehr haben willst und nacher beim rechnen wieder duch diese Zahl teile.

Siehe:http://www.delphipraxis.de/viewtopic.php?t=356
Roman Keller
Krieg ist Gottes Art den Amerikanern Geographie beizubringen!
  Mit Zitat antworten Zitat
erniepb

Registriert seit: 8. Jun 2002
Ort: Berlin
96 Beiträge
 
Delphi 7 Enterprise
 
#4
  Alt 4. Jul 2002, 20:22
Also zu dem Multiplizieren .. damit keine Nachkommastellen .. kann nich nur sagen .. die Idee hat ich auch schon .. in abgewandelter Form .. nämlich ich suche in dem String nach dem Komma (decimalseperator) "merke" mir wo ich s gefunden hab und lösch es dann .. und dann so wie gehabt .. String '1234566789123456789123456789' ergibt dann nach der Umwandlung zum Extended-Wert 12345678912e+26 .. ist also die selbe Rundungsungenauigkeit wie beim obigen Beispiel ..

Mit Curreny funktioniert das irgenwie auch nich soooo gut .. man könnt zwar die Anzahl der Nachkommastellen noch in ner Extravariable speichern .. allerdings wäre das Rechnen mit dem Wert dann Extrem hinderlich .. weil Multiplikation und Division gehn ja noch aber wie siehts mit Addition und Subtraktion aus .. da müsste man den Wert dann wohl zurück in nen Extended Wert konvertieren ..

Aber danke ..
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:17 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz