6.76609068141504e-318

[freimatz]

Hallo zusammen,
oben genannte Zahl plagt mich. Wir haben umfangreiche automatische Test. Diese laufen auf 64-Bit und irgendwann erscheint dieser Wert statt 0. Es ist jedoch nicht immer stabil. Lokal bei mir arbeite ich mit 32-Bit (bei 64-Bit geht debuggen nicht) und dort kann ich das Problem nicht nachstellen.
Für den Anweder ist das egal, in der Anzeige wird eh gerundet. Der automatische Test wird dann halt rot.

Binär ist die Zahl laut Delphi-Debugger: $80 $E5 $14 $00 $00 $00 $00 $00
Vielleicht ist da nur das letzt Bit daneben. Man könnte das vielleicht einfach runden. Die Delphi-Rundungsfunktionen gehen aber alle auf Zehnerpotenzen. Ich versuche mal etwas wie "Result := Round(AValue / 1E-10) * 1E-10".

Ich habe eine vage Idee wie das gehen könnte, bin aber dankbar für weitere Anregungen.

[TiGü]

Delphi-Quellcode:

program Project1;

{$APPTYPE CONSOLE}

{$R *.res}

uses
  System.SysUtils,
  System.Math;

var
    AValue: Double;

begin
  try
    AValue := 6.76609068141504e-318;
    Writeln(AValue);
    if IsZero(AValue) then
    begin
        AValue := 0;
    end;
    Writeln(AValue);
  except
    on E: Exception do
      Writeln(E.ClassName, ': ', E.Message);
  end;
  Readln;
end.

[Redeemer]

Woher kommt die Zahl? Ist ein Float für deine Anwendung der geeignete Datentyp?

[freimatz]

Danke für die Rückmeldungen. :)

@TiGü: IsZero gibts in Delphi? Seit wann? Wir haben eine eigene Funktion, die aber mit 1E-07 arbeitet statt mit 1E-12.
Das wäre auch so etwas wie eine Rundung.

@Redeemer: Der Datentyp ist double. Wir verwenden das hier seit Beginn an weit über 10.000 Stellen. Dieser Wert wird durch einige geometrische Berechnungen bestimmt. Hier ist die Dimension Millimeter, es kann aber auch mal ein Winkel im Bogenmass sein. Der Anwender bekommt maximal fünf Nachkommastellen zu sehen.

Ich versuche es gerade damit

Delphi-Quellcode:

function MinRealRound(const p_Value: Double): Double;
const
  minC = 1E-12;
begin
  Result := Round(p_Value / minC) * minC;
end;

[TiGü]

Weiß zwar nicht, ob das wirklich eine relevante Information für dich ist, aber nach meinen Recherchen mindestens seit Delphi 6 (ja, ohne XE), also seit Mai 2001.
Das Epsilon kannst du als zweites Argument angeben, wenn gewünscht, ansonsten wird das jeweils passende nach Datentyp genommen:

Delphi-Quellcode:

const
  FuzzFactor = 1000;
  SingleResolution   = 1E-7 * FuzzFactor;
  DoubleResolution   = 1E-15 * FuzzFactor;
{$IFDEF EXTENDEDIS10BYTES}
  ExtendedResolution = 1E-19 * FuzzFactor;
{$ELSE  EXTENDEDIS10BYTES}
  ExtendedResolution = DoubleResolution;
{$ENDIF EXTENDEDIS10BYTES}
...
function IsZero(const A: Double; Epsilon: Double): Boolean;
begin
  if Epsilon = 0 then
    Epsilon := DoubleResolution;
  Result := Abs(A) <= Epsilon;
end;

[himitsu]

Du kannst lokal auch den RemoteDebugger oder PAServer benutzen,
wenn das direkte Debuggen von 64 Bit nicht geht.

Oder eben in eine VM rein.
z.B. VirtualBox, KVM/Qemu, Hyper-V oder die Windows-Sandbox

[himitsu]

Zitat:

Zitat von freimatz (Beitrag 1510570)

Die Delphi-Rundungsfunktionen gehen aber alle auf Zehnerpotenzen.

negatives RoundTo?


IsZero, SameValue, CompareValue usw.
und die kann man auch mit einem passenden Epsilon (Maximalabweichung) ausrufen.

[Jens01]

Das ist jetzt aber eine altbekanntes Sache. Float-Werte kann man nicht mit "if Werte = andererWert then" vergleichen. Das geht nur mit diesen Comparison-Methoden: SameValue, IsZero, usw

Ich weiß nicht womit Du testest, bei Dunit bzw DUnitX gibts dies "CheckEquals", dort kann man ein Epsilon-Wert angeben:

"CheckEquals(Expected, Result, eps);"
eps ist dann sowas wie eps = 1e-10