int64 * Dezimalzahl - wie geht das?

[nailor]

bei tausenden von stellen dürften 8 geltende ziffern schon eine _SEHR_ große ungenauigkeit machen. (zwar nicht vom relativen fehler her, aber wenn man immer eins hochzählen will, könnte es kritisch werden)

[dizzy]

Das versuchte ich durch meine etwas ketzerische Aussage:

Zitat von dizzy:

... Nungut, die Genauigkeit leidet da etwas - es wären bei so vielen Stellen auch wirklich so viele Nullen dabei, aber immerhin!

(Das Original zum Zitat ist weg... hab mit dem Beitrag Mist gebaut (s.o.))
ja deutlich zu machen. Das taugt dann eher für Abschätzungen als für Hochpräzisionsalgebra .
Aber je nach dem wie groß die Werte wirklich werden, kann die Genauigkeit ja trotzdem ausreichen. Mehrere tausend, oder auch schon hundert Stellen sind ja eher selten... mann müsste schon "EINE_SEHR_GROSSE_ZAHL * Max(Int64);" rechnen um da überhaupt dran zu kommen.