Einzelnen Beitrag anzeigen

Andreas13

Registriert seit: 14. Okt 2006
Ort: Nürnberg
711 Beiträge
 
Delphi XE5 Professional
 
#29

AW: Genauigkeit von String to Single Konvertierung

  Alt 7. Apr 2020, 12:45
Es tut mir leid, aber ich habe es halt mit Zitaten. Diesmal eines von Karl Nickel über den Umgang mit ausgedruckten Ergebnissen einer numerischen Rechnung:

Der (naive) Anfänger glaubt an jede einzelne Ziffer.
Der (erfahrene) Programmierer vertraut auf die Hälfte der Stellen.
Der (wissende) Pessimist mißtraut sogar dem Vorzeichen.

Sorry, aber ich bin ein unverbesserlicher Pessimist…
Bitte den Algorithmus noch einmal überprüfen: Leider ist keine einzige Stelle korrekt. Zwischen den Lösungen der von Delphi angebotenen Fließkomma-Typen (Single, Double, Extended und Currency) liegen astronomische Unterschiede, nicht nach, sondern vor dem Komma. Bitte daher selber nachrechnen.
Warum ich es so spannend mache: Um uns die Augen zu öffnen, denn – und dann muß ich wieder eine Berühmtheit bemühen – nach dem Mathematiker- & Informatiker-Pionier Richard Hamming gilt:

The purpose of computing is insight, not numbers.

Und vielleicht verhilft uns diese simple Berechnung zu einer numerischen Einsicht & Erkenntnis.
Andreas
Grüße, Andreas
Wenn man seinem Nächsten einen steilen Berg hinaufhilft, kommt man selbst dem Gipfel näher. (John C. Cornelius)
  Mit Zitat antworten Zitat