Einzelnen Beitrag anzeigen

Dejan Vu
(Gast)

n/a Beiträge
 
#13

AW: Rundung bei Verwendung von DisplayFormat

  Alt 3. Aug 2015, 20:32
Das Problem ist, das 0.375 nicht exakt darstellbar ist.
Das sollte aber doch bei dem angegebenen Literal "0.375000000000" nicht der Fall sein.
Das stimmt zufällig, da hast Du Recht. Übrigens auch ohne die '000000'.

Ich war zu sehr auf 0.735 getrimmt.... Wenn das wirklich bei 0.375 so ist, dann ist das wirklich merkwürdig.

Das Einzige, was ich mir vorstellen kann, sind unterschiedliche Rundungsverfahren (Bankers Rounding vs. 'Normal'). Aber das hast Du ja schon gecheckt... Mystisch.

Geändert von Dejan Vu ( 3. Aug 2015 um 20:34 Uhr)
  Mit Zitat antworten Zitat