Einzelnen Beitrag anzeigen

Benutzerbild von nailor
nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge
 
#2

Re: 0 + 0.1 = ? Probleme mit dem Datentyp Single?

  Alt 11. Okt 2004, 22:40
man kann nicht jede zahl in einen double / float reinpacken. das ist ein realtive kompliziertes verfahren, wie das gespeichert wird. und wenn was nicht genau geht, wird der nächstbeste wert genommen.

und dann sag mir mal den genauen unterschied zwischen:

0,099999914546

und 0,1 ! der ist im prinzip nicht da!
Michael N.
http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::
  Mit Zitat antworten Zitat