Einzelnen Beitrag anzeigen

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge
 
#12

AW: Kann man den Wertebereich eingrenzen ?

  Alt 17. Okt 2017, 20:52
Wenn ich also eine Zahl eingebe die genau 1.7*10^308 -2 groß ist und zu dieser Zahl eine 1 addiere ist alles okay. Wenn ich aber eine 3 addiere kommt es zu einem Überlauf.
Nein, es kommt zu keinem Überlauf, weil in FP-Arithemtik 1.7*10^308 -2 + 3 = 1.7*10^308 +1 = 1.7*10^308 ist, und dies ist wesentlich kleiner als der maximale Doublewert 1.797693134862315E+308. Überlauf gibt es zB bei 1.06 * 1.7E308.
  Mit Zitat antworten Zitat