AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Object-Pascal / Delphi-Language Delphi trunc liefert nicht das erwartete Ergebnis
Thema durchsuchen
Ansicht
Themen-Optionen

trunc liefert nicht das erwartete Ergebnis

Ein Thema von Daimonion · begonnen am 18. Mär 2010 · letzter Beitrag vom 23. Mär 2010
 
Benutzerbild von Daimonion
Daimonion

Registriert seit: 4. Dez 2006
Ort: Vöhrenbach
15 Beiträge
 
#1

trunc liefert nicht das erwartete Ergebnis

  Alt 18. Mär 2010, 15:17
Hallo an alle

In meinem Programm berechne ich verschiedene Position auf die 2. Kommastelle genau. Um nicht in irgendwelche Rechenfehler zu rennen, multipliziere ich die Double Werte vorher mit 100 und wende dann darauf einen Trunc an. (siehe Beispiel)
Code:
rp := (trunc((dp*100)) + trunc((offset*100)))/100; //Real Position
Nun habe ich festgestellt, dass mir die Funktion Trunc die Werte falsch liefert.

Gemerkt habe ich das am Wert offset. Dieser war auf 0.61 . Mit 100 multipliziert ergibt dieser 61. Doch wenn ich darauf die Funktion Trunc anwende, dann gibt diese mir 60 zurück.


Wieso denn das? Und wie kann ich das umgehen?

Danke für die Infos.

Grüße
Thomas
Thomas
Zitat Stromberg S03E08 - Erika:
"So...selbst die Capitolmatratze, die hier auf jedem Karosseplan umgerutscht ist, was will sie von mir? Zahlen. Aber so ist das. Als Chef in meiner Position, da bist du so einsam wie...Gott."
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 08:42 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz