AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren

Rechenfehler

Ein Thema von Sebtis · begonnen am 5. Mär 2010 · letzter Beitrag vom 5. Mär 2010
Antwort Antwort
Seite 2 von 2     12
Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.043 Beiträge
 
Delphi XE2 Professional
 
#11

Re: Rechenfehler

  Alt 5. Mär 2010, 22:46
Zitat von Luckie:
Es kommt natürlich noch auf die Genauigkeit der Datentypen an. Eventuell sind sie bei C++ und dem Casio Rechner höher.
Ich denke eher, dort wird mit niedrigerer Genauigkeit gearbeitet.
Wenn man im Beispiel-Code a als Double deklariert, tritt der Fehler nicht auf.
Und warum nicht ?:
Schauen wir uns doch mal an was beim 13. Durchlauf passiert:
1) 1.55 wird in die FPU geladen. (da 1.55 binär nicht exakt darstellbar ist, ein Wert knapp unter 1.55)
2) Es wird mit a multipliziert.
3) Das Ergebnis, ist der gleiche Wert, als wäre a ein Extended-Wert, also knapp unter 1043026
4) Jetzt wird dieses Ergebnis wieder in a gespeichert. Wäre a ein extended-Wert, würde simpel der Inhalt des FPU-Registers gespeichert. Da a aber "nur" ein Double ist, muß gerundet werden, was in diesem Fall die Ungenauigkeit beseitigt.
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat
Benutzerbild von Wolfgang Mix
Wolfgang Mix

Registriert seit: 13. Mai 2009
Ort: Lübeck
1.222 Beiträge
 
Delphi 2005 Personal
 
#12

Re: Rechenfehler

  Alt 5. Mär 2010, 22:49
Schaue mal auch in den Anhang als anderes Beispiel
Angehängte Dateien
Dateityp: pdf tutorial_576.pdf (18,6 KB, 6x aufgerufen)
Wolfgang Mix
if you can't explain it simply you don't understand it well enough - A. Einstein
Mein Baby:http://www.epubli.de/shop/buch/Grund...41818516/52824
  Mit Zitat antworten Zitat
Sebtis

Registriert seit: 5. Mär 2010
5 Beiträge
 
#13

Re: Rechenfehler

  Alt 5. Mär 2010, 22:51
omg, amateurprofi, hast recht. als double gibts kein problem... THX!!!
  Mit Zitat antworten Zitat
Amateurprofi

Registriert seit: 17. Nov 2005
Ort: Hamburg
1.043 Beiträge
 
Delphi XE2 Professional
 
#14

Re: Rechenfehler

  Alt 5. Mär 2010, 23:06
Zitat von Sebtis:
@Amateurprofi:
Das klingt gut. Und was macht C++ da jetz anders? ^^
Weiß ich auch nicht.
Der c++ long double ist ein 80 Bit-Wert, was mich vermuten läßt, daß er identisch ist, mit dem extended, der ja exakt das FPU-Register abbildet, also sollte beim 13. Durchlauf auch das gleiche Ergebnis kommen. Ich hab kein c++, sonst würde ich mir mal mit dem Debugger anschauen, was da genau gemacht wird.
Gruß, Klaus
Die Titanic wurde von Profis gebaut,
die Arche Noah von einem Amateur.
... Und dieser Beitrag vom Amateurprofi....
  Mit Zitat antworten Zitat
Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 20:15 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz