Einzelnen Beitrag anzeigen

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#29

AW: Probleme mit Trunc

  Alt 21. Apr 2018, 14:05
da du aber mit einer Formel aus Wikipedia angekommen, seht man, dass du dich über die Kindergeschichte
Wenn ich dieses sprachliche Konstrukt dahingehend interpretiere, daß ich irgendwo bei Wiki eine Formel gefunden haben soll, liegst du falsch. Die 'Formel' über Zinseszins gehört mM zum mathematischen Allgemeinwissen.
Hier geht es nicht darum mit a=0.01*(1+0.05)^2018 einen Wert auszurechnen, sondern zu zeigen, das 8 Byte sowohl den Zahlenbereich -2147483648..2147483647 als Integer, wie auch 5.0 x 10^-324 .. 1.7 x 10^308 als Real.
Schon wieder völlig falsch, 8-Byte-Integer haben eine Beeich von -2^63 = -9223372036854775808 ... 2^63-1= 9223372036854775807
Auch Excel rechnet nur mit einer begrenzten Anzahl Bits. Wenn man eine bestehende Zahl immer erhöht, dann wird man irgendwann auch den Rundungsfehler bemerken.
Und schon wieder Excel plus Unsinn (wie erhöht man eine Zahl?)
Und das ist das was du anscheinend bei dem kleinen Excel-Beispiel nicht verstanden hast
Und zu Abschluß noch einmal Excel.

Mir reicht diese Diskussion und ich werde keine weiteren Beiträge dazu liefern.

Schönes Wochenende

Edit: Sehe gerade Daniels Beitrag. @Alallart: bitte keine PN

Geändert von gammatester (21. Apr 2018 um 14:12 Uhr)
  Mit Zitat antworten Zitat