Delphi int64 * Dezimalzahl - wie geht das?

Thema durchsuchen

Ansicht

Themen-Optionen

int64 * Dezimalzahl - wie geht das?

Ein Thema von Tubos · begonnen am 22. Aug 2004 · letzter Beitrag vom 23. Aug 2004

Vorheriger Beitrag

Nächster Beitrag

nailor

Registriert seit: 12. Dez 2002
Ort: Karlsruhe
1.989 Beiträge

#11

Re: int64 * Dezimalzahl - wie geht das?

23. Aug 2004, 13:52

bei tausenden von stellen dürften 8 geltende ziffern schon eine _SEHR_ große ungenauigkeit machen. (zwar nicht vom relativen fehler her, aber wenn man immer eins hochzählen will, könnte es kritisch werden)

Michael N.

http://nailor.devzero.de/code/sharpmath/testing/ --- Tests, Feedback, Anregungen, ... aller Art sehr willkommen!
::: don't try so hard - it'll happen for a reason :::