Ergebnis der Suchanfrage

• Forum: Algorithmen, Datenstrukturen und Klassendesign

  AW: 6.76609068141504e-318

   
    by freimatz, 24. Aug 2022
  Danke für die Rückmeldungen. :)
  
  @TiGü: IsZero gibts in Delphi? Seit wann? Wir haben eine eigene Funktion, die aber mit 1E-07 arbeitet statt mit 1E-12.
  Das wäre auch so etwas wie eine Rundung.
  
  @Redeemer: Der Datentyp ist double. Wir verwenden das hier seit Beginn an weit über 10.000 Stellen. Dieser Wert wird durch einige geometrische Berechnungen bestimmt. Hier ist die Dimension Millimeter,...
• Forum: Algorithmen, Datenstrukturen und Klassendesign

  6.76609068141504e-318

   
    by freimatz, 24. Aug 2022
  Hallo zusammen,
  oben genannte Zahl plagt mich. Wir haben umfangreiche automatische Test. Diese laufen auf 64-Bit und irgendwann erscheint dieser Wert statt 0. Es ist jedoch nicht immer stabil. Lokal bei mir arbeite ich mit 32-Bit (bei 64-Bit geht debuggen nicht) und dort kann ich das Problem nicht nachstellen.
  Für den Anweder ist das egal, in der Anzeige wird eh gerundet. Der automatische Test...