Trunc liefert falschen Wert

[devidespe]

Hallo,

irgendwie scheint Trunc bei mir nicht ganz korrekt zu rechnen. Wenn ich einen Real-Wert von 9.7 x 10 multipliziere und daraus einen Integer mache, sollte es 97 sein, Trunc macht daraus aber 96:

Delphi-Quellcode:

var ErgTemp : Real;
    ErgTempInt : Integer;
begin
  ErgTemp:=9.7;
  ErgTempInt:=Trunc(ErgTemp * 10);
  ShowMessage(IntToStr(ErgTempInt));
end;

Hat jemand eine Idee, woran das liegen könnte? Vielen Dank.

[Medium]

floats ungenauigkeit

-> Nimm besser Round()

[Mavarik]

Deswegen:

Delphi-Quellcode:

var ErgTemp : Real;
     ErgTempInt : Integer;
begin
   ErgTemp:=9.7;
   ErgTemp := ErgTemp * 10;
   ErgTempInt:=Trunc(ErgTemp);
   ShowMessage(IntToStr(ErgTempInt));
end;

Mavarik

[Der schöne Günther]

Also ich kriege wie erwartet 97 raus 8-)

[mm1256]

Komisch...

Delphi-Quellcode:

var ErgTemp : Real;
    ErgTempInt : Integer;
begin
  ErgTemp:=9.7;
  ErgTempInt:=Trunc(ErgTemp * 10);
  ShowMessage(IntToStr(ErgTempInt));
end;

...gibt bei mir auch 96. Warum das bei dir 97 sind, ist mir ein Rätsel :roll:

[Der schöne Günther]

Oh, es wird wieder lustig. Herzlich Willkommen zu einer neuen Ausgabe von

Compiler - Magic

Auf Win64 kommt bei mir 97 heraus. Bei Win32 kommt 96 heraus. Wer probiert iOS und Android aus?

[Insider2004]

9.7*10=96.999999999999999 -> trunc -> 96.

stimmt doch! bitte lesen: Dezimalsysten <-> Binärsystem

[mm1256]

Und warum dann mit Win32 und Win64 zwei unterschiedliche Werte. Hab es soeben auch nachvollziehen können.

[p80286]

Darf ich mal dezent auf #2 hinweisen?
oder anders herum trunc(96.9999999999999999999) ist nun mal 96 und trunc(97.0000000000000000001) ist 97!

Gruß
K-H

[Insider2004]

Zitat:

Zitat von mm1256 (Beitrag 1284420)

Und warum dann mit Win32 und Win64 zwei unterschiedliche Werte. Hab es soeben auch nachvollziehen können.

Real darfst du nicht nehmen. Nur Double. Auch nich Extended.