Einzelnen Beitrag anzeigen

Dejan Vu
(Gast)

n/a Beiträge
 
#19

AW: Trunc liefert falschen Wert

  Alt 23. Dez 2014, 09:02
Diese Rundungsfehler muß man bei allen Größen beachten und immer nur das größte zu verwenden ist auch keine Lösung.
Nein, aber es gibt Berechnungen, bei denen die Double Genauigkeit nicht ausreicht, ich aber noch nicht auf eine BCD-Lösung ausweichen muss, die dann einen erheblichen Geschwindkeitsnachteil mit sich bringt.

Ich müsste in meinen Unterlagen stöbern, aber es gab einige Fälle, bei denen ich ganz froh war, Extended verwenden zu können.

Weiterhin mag es sein, das Extended mal nur intern gedacht war, aber ... WTF. Teflon wurde ursprünglich auch nur für die Raumfahrt entwickelt und heute brätst Du deine Spiegeleier drauf ( was soll uns dieses Gleichnis kurz vor Weihnachten sagen?)
  Mit Zitat antworten Zitat