AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi Rundungsfehler bei Float Addition/Subtraktion
Thema durchsuchen
Ansicht
Themen-Optionen

Rundungsfehler bei Float Addition/Subtraktion

Ein Thema von mgero · begonnen am 13. Jul 2006 · letzter Beitrag vom 13. Jul 2006
 
mgero

Registriert seit: 26. Jun 2006
5 Beiträge
 
Delphi 6 Enterprise
 
#1

Rundungsfehler bei Float Addition/Subtraktion

  Alt 13. Jul 2006, 10:21
Hallo Zusammen,

Das Rundungsprobleme im Zusammenhang mit Float auftreten können, ist ja bekannt.
Normale Additionen oder Subtraktionen sollten jedoch kein Problem sein.

Mit Delphi 6 ergibt folgenden Operation mit Double nicht 0

Delphi-Quellcode:
var
  xDouble : Double;
begin
  xDouble := 0;
  xDouble := xDouble + 3743.8;
  xDouble := xDouble - 3743.8;
Verwendet man anstelle von Double Extended, ist das ganze noch merkwürdiger: Hier bekommt man 0, solange keine Datenbank mit TDatabase angesprochen wird, danach kommt der gleiche Fehler. Das bedeutet, das die gleiche Funktion nach dem ersten Datenbank- Connect ein anderes Ergebnis liefert als davor.

Natürlich kann ich einen Workaround basteln, z.B alle Werte Runden vor Prüfung auf 0,
mir gefällt jedoch nicht wenn das System so unzuverlässig rechnet.

Kennt jemand eine Lösung zum Problem, eventuell eine Compilerdirektive o.a.

Vielen Dank
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 06:26 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz