Ergebnis der Suchanfrage

• Forum: Programmieren allgemein

  AW: FloatToStrF Rundungsfehler ?

   
    by himitsu, 29. Jan 2021
  In x86 war eine Erweiterung für BCD integriert,
  aber im 64 Bit hat es nicht mehr eingebaut und sich den Platz im Silizium gespart.
  https://en.wikipedia.org/wiki/Intel_BCD_opcode
  
  Schade, dass es praktisch niemand benutzt hatte und man es somit als Nutzlos ansah. :cry:
• Forum: Programmieren allgemein

  AW: FloatToStrF Rundungsfehler ?

   
    by himitsu, 29. Jan 2021
  Warum?
  Das wurde doch gesagt und du hast es selbst auch nochmal bestätigt.
  
  Intern wird es als 0.500149999... gespeichert (Darstellungsfehler, da wir in einem 10er-System denken, aber der Computer mit einem 2er-System rechnen muss.
  (10 lässt sich nunmal nicht als 1 Bit darstellen und wird somit zwangsläufig unscharf, denn 8-10-16)
  
  Und bei Rundung auf 4 Nachkommastellen, kommt für...