Zitat von
markus5766h:
Hallo,
nimm Extended, dann funktionierts (Genauigkeit)
Hier ja, aber das ist auch keine Garantie, denn...
... floating Point Zahlen stellen eine Dezimalzahl als Summe der Reihe (b_i*1/(2^i)) dar, wobei b_i das i.te Bit der Mantisse darstellt. Es ist logisch, das nicht alle Dezimalzahlen so exakt darzustellen sind.
Das Ein (TI)-Taschenrechner das richtig ausrechnet, liegt vermutlich daran, das er mit BCD-Arithmetik arbeitet. Das ist langsamer, aber eben genau (bis auf Rundungsfehler der letzten Stelle).