Probleme mit Trunc

Thema durchsuchen

Ansicht

Themen-Optionen

Ein Thema von hhcm · begonnen am 19. Apr 2018 · letzter Beitrag vom 21. Apr 2018

Vorheriger Beitrag

Nächster Beitrag

gammatester

Registriert seit: 6. Dez 2005
999 Beiträge

AW: Probleme mit Trunc

19. Apr 2018, 10:52

Ich vermute, daß Du mit der 32-Bit-Version rechnest.

Dann ist das erste Ergebnis verständlich, da a*100 als Extended gerechnet wird: Das Zwischenresultat 170.999999999999996 wird dann auf 170 abgeschnitten.

Unter 64-Bit ist das Zwischenresultat 171.000000000000000.

Im Deinem zweiten Fall wird das Zwischenresultat erst nach Double gerundet und in b gespeichet (hat also wie bei 64-Bit den Wert 171.0)