AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren

Datentypen und Genauigkeitsverluste?

Ein Thema von tralala · begonnen am 20. Jul 2012 · letzter Beitrag vom 21. Jul 2012
Antwort Antwort
Seite 1 von 2  1 2   
tralala

Registriert seit: 16. Jul 2012
6 Beiträge
 
#1

Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:07
Hallo zusammen,

ich habe folgenden Code

px:= width / (lp1-lp2); Die Variablen px, lp1 und lp2 sind vom Typ Double. width ist vom Typ Integer. Wäre es besser width
vorher in ein Double umzuwandeln um höhere Genauigkeit zu erzielen?

mfg
  Mit Zitat antworten Zitat
Benutzerbild von p80286
p80286

Registriert seit: 28. Apr 2008
Ort: Stolberg (Rhl)
6.659 Beiträge
 
FreePascal / Lazarus
 
#2

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:37
Das muß nicht sein, das übernimmt Delphi für Dich.
Nur frage ich mich was Du unter Genauigkeit verstehst.
ggf. solltest Du Dir für Deine Ansprüche eine Math. Bibliothek zulegen?

Gruß
K-H
Programme gehorchen nicht Deinen Absichten sondern Deinen Anweisungen
R.E.D retired error detector
  Mit Zitat antworten Zitat
tralala

Registriert seit: 16. Jul 2012
6 Beiträge
 
#3

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:43
Wandelt der Compiler den integer in

1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle

mfg
  Mit Zitat antworten Zitat
mkinzler
(Moderator)

Registriert seit: 9. Dez 2005
Ort: Heilbronn
39.830 Beiträge
 
Delphi 10.4 Sydney
 
#4

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:46
Genaugenommen in 0.16E48
Markus Kinzler
  Mit Zitat antworten Zitat
tralala

Registriert seit: 16. Jul 2012
6 Beiträge
 
#5

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 13:55
@markus

danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.

mfg
  Mit Zitat antworten Zitat
nahpets
(Gast)

n/a Beiträge
 
#6

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 14:01
@markus

danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.

mfg
Dieser Effekt ist mir unter Delphi nicht bekannt.
  Mit Zitat antworten Zitat
Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#7

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 14:09
@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.
mfg
Das dürfte so nicht stimmen.
Die Ursache dafür ist, dass in java (und vielen Sprachen, die mit C verwandt sind) der Divisionsoperator überladen ist. Und falls man zwei Integer dividiert kommt eben ein Integer als Ergebnis 'raus. Das ist bei der Multiplikation zwar auch so, macht da aber keine Probleme - denn deine 2,5 sind ja bereits ein float. Und damit wird die ganze Rechnung mit floats durchgeführt!

Deshalb ergibt z.B.:
1/120 = 1
1.0/8 = 1/8.0 = 0.125
2*2.5 = 5.0

In Delphi ist der / Operator ausschließlich Gleitkommazahl-Operator - Die Integerdivision geht mit div.

Zitat:
Es geht um Nachkommaverluste auf die 8 Stelle
Kannst du etwas mehr Code posten? Und vielleicht die Zahl, bei der das passiert?

Geändert von jfheins (20. Jul 2012 um 14:16 Uhr)
  Mit Zitat antworten Zitat
tralala

Registriert seit: 16. Jul 2012
6 Beiträge
 
#8

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 14:37
@Jfheinz
warum wird dann an vielen Stellen darauf hingewiesen, das man wenn man mit einem Fließkommawert multiplizieren will man z.b. 2.0 anstatt 2 schreiben soll.
Der Compiler kann doch nicht richen was gemeint ist? Ich bin da unter Java schonmal böse auf die Nase gefallen.

Double:= Double * Double; -> zb. X:= 1,15478 * 2 vs. X:= 1,15478 * 2.0

(2 und 2.0 sind in dem Fall konstanten)

mfg

Geändert von tralala (20. Jul 2012 um 14:44 Uhr)
  Mit Zitat antworten Zitat
Benutzerbild von p80286
p80286

Registriert seit: 28. Apr 2008
Ort: Stolberg (Rhl)
6.659 Beiträge
 
FreePascal / Lazarus
 
#9

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 15:07
Ich bin da unter Java schonmal böse auf die Nase gefallen.
Wenn das nicht so wäre, gäb es ja nur noch Java...........

Gruß
K-H
Programme gehorchen nicht Deinen Absichten sondern Deinen Anweisungen
R.E.D retired error detector
  Mit Zitat antworten Zitat
Medium

Registriert seit: 23. Jan 2008
3.676 Beiträge
 
Delphi 2007 Enterprise
 
#10

AW: Datentypen und Genauigkeitsverluste?

  Alt 20. Jul 2012, 15:59
Was genau ist an der Antwort "mit / rechnet Delphi immer mit Double, egal wie die Zahl da steht" noch missverständlich?
"When one person suffers from a delusion, it is called insanity. When a million people suffer from a delusion, it is called religion." (Richard Dawkins)
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 1 von 2  1 2   

Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:47 Uhr.
Powered by vBulletin® Copyright ©2000 - 2022, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2021 by Daniel R. Wolf