Ergebnis der Suchanfrage

• Forum: Object-Pascal / Delphi-Language

  AW: floating point invalid operation: 10.1 vs. 10.2

   
    by Uwe Raabe, 28. Mär 2018
  Ich denke, du solltest AWord zu einem Cardinal machen. Das Quadrat eines Word passt immer in einen Cardinal, aber halt nicht immer in einen Integer oder gar ein Word. Da der Rückgabewert von SQR den gleichen Typ hat wie das Argument, muss das Argument schon ein Cardinal sein, bei dem das Hi-Word gleich 0 ist. Andernfalls bekommt man einen Integeroverflow.
  
  Am sichersten fährst du, wenn AWord...
• Forum: Object-Pascal / Delphi-Language

  AW: floating point invalid operation: 10.1 vs. 10.2

   
    by Uwe Raabe, 28. Mär 2018
  Die Hilfe zu SQR() sagt:
  
  
  Das Quadrat passt aber nicht mehr in ein Word und erzeugt so einen internen Überlauf, der in einer negativen Zahl resultiert. Durch die Addition bleibt die Zahl negativ und das SQRT kracht natürlich.
  
  Bei 10.1 gibt es da zwar keine Exception, aber das Ergebnis stimmt leider auch nicht: 64.536² + 64.536² = 8.329.790.592
  
  
  var
  AWord: Word;