Ergebnis der Suchanfrage

• Forum: Programmieren allgemein

  Re: Datentyp für Messdaten (Chemie, Physik)

   
    by Uwe Raabe, 27. Dez 2009
  Die Genauigkeit von Float-Typen wird in signifikanten Stellen angegeben und spielt sich ausschließlich in der Mantisse ab. Der Exponent ist lediglich für den Wertebereich zuständig. Wenn z.B. ein Double 15 signifikanten Stellen angegeben wird, so ist eine Zahl in wissenschaftlicher Schreibweise (oder auch E-Notation) mit dieser Anzahl Stellen in hinreichender Genauigkeit speicherbar.
  ...