Ergebnis der Suchanfrage

• Forum: Programmieren allgemein

  AW: Single wert ist unterschiedlich obwohl gleich

    Delphi
    by himitsu, 18. Jun 2018
  Und mit welchen Typen?
  
  Je feiner der typ auflöst, also je größer er ist, um so kleiner werden die Problembereiche und so schwerer wird es sie zu treffen.
  
  
  
  Beim Unwandeln dieser Werte in eine Textdarstellung sollte man niemals mehr als die signifikanten Stellen umwandeln, da alles danach quasi "zufällig" ist und diesen Rundungsfehler potenziert darstellt, je weiter man dahinter schaut.
  ...
• Forum: Programmieren allgemein

  AW: Single wert ist unterschiedlich obwohl gleich

    Delphi
    by himitsu, 18. Jun 2018
  Single = 7-8 signifikante Dezimalstellen, also im Wost-Case nur 7.
  Die erste Signifikante ist von links die erste Nicht-Null.
  
  0.68000000715
  
  Selbst Schuld, wenn du einen Wertebereich haben willst, der nichtmals Ansatzweise in den Datentyp passt.
  Und selbst wenn, dann sind auch innerhalb der Signifikanten Rundungsfehler möglich, vor allem bei gewissen unendlich langen Werten ala 2/3.
  ...