AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Format-Befehl rundet falsch

Ein Thema von norwegen60 · begonnen am 22. Mai 2012 · letzter Beitrag vom 15. Jun 2012
Antwort Antwort
Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.111 Beiträge
 
Delphi XE2 Professional
 
#1

AW: Format-Befehl rundet falsch

  Alt 22. Mai 2012, 22:02
Mach mal folgendes:

Delphi-Quellcode:
var n:real; s:string;
begin
   n:=9.995;
   str(n:0:20,s);
   ShowMessage(s);
end;
Dann siehst du so etwas wie 9.99499999999999922000

Der Wert 9.995 kann nicht exakt abgebildet werden, in diesem Fall steht in n
ein Wert, der geringfügig kleiner ist, als 9.995 und der wird korrekt abgerundet.
WorkAround auf die Schnelle:

Delphi-Quellcode:
n:=9.995;
n:=Round(n*100+0.5)/100;
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
44.555 Beiträge
 
Delphi 12 Athens
 
#2

AW: Format-Befehl rundet falsch

  Alt 15. Jun 2012, 16:50
Delphi-Quellcode:
var n:real; s:string;
begin
   n:=9.995;
   str(n:0:20,s);
   ShowMessage(s);
end;
Hier besser Delphi-Referenz durchsuchenTrunc verwenden, denn sonst behebt man keinen Fehler, sondern verschieb ihn nur.


Delphi-Referenz durchsuchenSetRoundMode gibt es zwar auch noch, aber sowas global umzustellen ist nicht unbedingt optimal.
Ein Therapeut entspricht 1024 Gigapeut.
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 18:04 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz