Ergebnis der Suchanfrage

• Forum: Object-Pascal / Delphi-Language

  AW: Genauigkeit von String to Single Konvertierung

   
    by Rollo62, 3. Apr 2020
  Ja kann man nehmen, aber wenn z.B. Auflösung 0.0000001 gebraucht wird muss man sich was selber basteln, oder nicht ?
  Currency wäre natürlich eine gute Basis.
  
  
  
  Ich meine Curreny nutzt */ 10000 fix, oder kann man das irgendwo einstellen ?
• Forum: Object-Pascal / Delphi-Language

  AW: Genauigkeit von String to Single Konvertierung

   
    by Rollo62, 3. Apr 2020
  Wenn man den Wertebereich genau kennt, und auch die gewünschte Auflösung fix ist kann man ja auch mit integer arbeiten.
  Z.B. Bereich ist innerhalt +/-100000 mit einer Auflösung von 0.001, dann kann man einfach intern mit IntVariable * 1000 rechnen, und nur bei Anzeigen wieder um 1000 korrigieren.
  Die internen Berechnungen sind dann sehr schnell, mit Integer, nur bei den Ein- Ausgaben muss man...