Einzelnen Beitrag anzeigen

Benutzerbild von nailor
nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge
 
#11

Re: int64 * Dezimalzahl - wie geht das?

  Alt 23. Aug 2004, 13:52
bei tausenden von stellen dürften 8 geltende ziffern schon eine _SEHR_ große ungenauigkeit machen. (zwar nicht vom relativen fehler her, aber wenn man immer eins hochzählen will, könnte es kritisch werden)
Michael N.
http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::
  Mit Zitat antworten Zitat