Einzelnen Beitrag anzeigen

Benutzerbild von Kalakmul
Kalakmul

Registriert seit: 11. Apr 2008
27 Beiträge
 
Delphi 2010 Professional
 
#5

AW: Wurzel ziehen und anschließend quadrieren Problem

  Alt 16. Okt 2010, 13:25
Wahrscheinlich "tricksen" hier die Taschenrechner ein wenig. Z. B. könnten sie intern mit einer etwas größeren Genauigkeit rechnen als sie anzeigen. Wenn dann eine Zahl größer als 5 hinter der kleinsten dargestellten Zahl (im Beispiel eine 9, bzw. eine Folge von 9ern) herauskommt, runden sie von hinten sukzessive auf und im genannten Beispiel kommt letztlich eine 89 dabei heraus.

Programmiertechnisch müsste sich da also mit einem geschickten Rundungsbefehl etwas machen lassen.
Wer fragt, ist ein Narr für 5 Minuten, wer nicht fragt, ist ein Narr ein Leben lang.
  Mit Zitat antworten Zitat