Einzelnen Beitrag anzeigen

Mikkey

Registriert seit: 5. Aug 2013
265 Beiträge
 
#12

AW: Konvertierungsfehler bei Funktion

  Alt 9. Jun 2015, 08:45
Da bekomme ich mit meinen 9 Nachkommastellen wohl Rundungsfehler rein
Ein Punkt der 9. Stelle nach dem Komma entspricht 86 Nanosekunden. Wenn Du größere Genauigkeit brauchst...
  Mit Zitat antworten Zitat