Einzelnen Beitrag anzeigen

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#9

Re: Falsche Ausgabe von Floatwerten

  Alt 3. Dez 2009, 17:26
Zitat von patti:
...
Nach einpaar Nachkommastellen wird es also für die Praxis uninteressant :-D
Patti
Und damit machst Du genau einen ähnlichen Fehler wie BICE (Borland, Inprise, Codegier, Embadingens)!!

Wie willst Du zB sin/cos für große Werte ausrechnen, wenn Du Pi oder 2/Pi nicht auf ausreichend viele Stellen kennst? Für den vollen extended-Bereich braucht man ca 16000 Bits von 2/Pi!

Gruß Gammatester
  Mit Zitat antworten Zitat