Einzelnen Beitrag anzeigen

Mikkey

Registriert seit: 5. Aug 2013
265 Beiträge
 
#16

AW: Konvertierungsfehler bei Funktion

  Alt 9. Jun 2015, 09:55
Wobei Delphi 1 Millisekunde mit Double gar nicht erfassen kann. Somit unterliegen die Millisekunden den Rundungsfehlern.
Stop, das kann man so nicht stehen lassen.

Ein Double stellt mehr als 15 signifikante Dezimalstellen dar. Ein Datum im jetzigen Zeitalter hat 5 Stellen vor dem Komma, so bleiben für die Uhrzeit 10 signifikante Ziffern übrig. Im Bereich von etwa A.D. 1700 bis 2200 wird ein Zeitstempel also einer Auflösung von <10ns dargestellt.

Dies gilt natürlich nicht für die Uhr des Rechners und auch nicht für das Format, das die Datenbank für die Speicherung solcher Werte verwendet.
  Mit Zitat antworten Zitat