Einzelnen Beitrag anzeigen

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#23

AW: Programmergebnise verschieden auf zwei Rechnern

  Alt 10. Mär 2016, 14:28
Naja, die Formel am Ende ist schon ziemlich hässlich und zwischendurch werden die Zahlen auch ziemlich groß ^^
...
Wie meinst du, Ausgangszahl?
Ich hab jetzt die ersten 50 Variablen und da hab ich bisher nur bei einer eine Differenz im Bereich von Max E-7.
Das is doch spannend: Woher kommt diese Differenz in den Ausgangszahlen. Der Rest ist dann leicht: ZB schon zweimal Wurzelziehen aus 1e-7 und Du bist locker bei einem Faktor 50 (weil 1/sqrt(sqrt(1e-7)) = 56.234...).

PS: Wenn's wirklich 1e-7 ist, könnte es sein, daß Dir irgendwo eine Single-Rechnung reinspuckt, 1.1920929E-7 ist das Maschinen-Epsilon für Single.

Geändert von gammatester (10. Mär 2016 um 14:36 Uhr)
  Mit Zitat antworten Zitat