Forum: Algorithmen, Datenstrukturen und Klassendesign
by Daniel,
25. Feb 2015
Doch. Oder: Leider ja. Oder: Is' so.
Deine Zahlen sind nur auf die ersten n Stellen korrekt - darauf kannst Du Dich verlassen, auf mehr jedoch auch nicht.
Deswegen sollte man Fließkommazahlen auch nicht als Ganzes auf Gleichheit zu irgendeinem anderen Wert prüfen, sondern Funktionen wie "CompareValue" nutzen, die Dir streng genommen nur sagen, ob Wert A "recht dicht" an Wert B ist.
Forum: Algorithmen, Datenstrukturen und Klassendesign
by Daniel,
25. Feb 2015
Wie genau brauchst Du es denn?
Jeder Datentyp hat eine auf n Stellen garantierte Genauigkeit.
Dann muss man schauen, was man braucht und kann dann den entsprechenden Datentyp wählen.
"Single" ist für viele, viele Fälle absolut ausreichend.
Forum: Algorithmen, Datenstrukturen und Klassendesign
by Daniel,
25. Feb 2015
Das hängt damit zusammen, dass auch ein moderner Computer Fließkommazahlen nicht exakt darstellen kann.
Schau mal dort:
http://de.wikipedia.org/wiki/Gleitkommazahl