Genauigkeit von String to Single Konvertierung

[Redeemer]

Zitat von Harry Stahl:

Wenn ich einen String mit dem Inhalt "29,7" zu einem Variablen Wert des Typs "Single" per StrToFloat (oder String.tosingle) konvertiere, erhalte ich als Ergebnis "29,7000007629395".

Erst ab Variablen Typ "Double" aufwärts erhalte ich 29.7 als Wert.

Mir ist zwar bekannt, dass Single nur 4 Byte hat und man daher von einer "geringen Rechengenauigkeit" spricht (double hat 8 Byte), aber ich habe das immer auf Berechnungsergebnisse bezogen (also multiplizieren, dividieren, etc.), wieso gibt es hier bei so einer einfachen Konvertierung eine Ungenauigkeit?

Ein Computer kann grundsätzlich keine Gleitkommazahlen speichern, deren letzte Nachkommastelle nicht 5 ist. Zahlen, deren letzte Nachkommastelle 5 ist, zwar in den allermeisten Fällen auch nicht, aber wenn du eine Zahl siehst, die nicht auf 5 endet, kann sie ein Computer niemals als Gleitkommazahl speichern. 29,7 endet nicht auf 5, kann also nicht gespeichert werden. Exakte Kommazahlen mit 4 Nachkommastellen können als Currency (=Int64, das als Zehntausendstel behandelt wird) abgelegt werden. Für alle anderen Fälle musst du dir selbst was schreiben.

[Luckie]

Gleitkommazahlen können nicht exakt binär dargestellt werden. Das ist alles. Wandele 29,7 einfach mal per Hand schriftlich in eine binäre Zahl um, dann siehst du es.

[jfheins]

Um solche grundlegenden Effekte einfacher zu sehen, finde ich auch Minifloats nett: https://de.wikipedia.org/wiki/Minifloat

Da wird ein einzelnes Byte als Gleitkommazahl genutzt. Die kleinste positive Zahl > 0 ist dann 0.125 und es geht bis zu 122880 - mit entsprechenden lücken.
Deine 29.7 wären da zwischen den beiden möglichen Werten 28 und 32 und würden im besten Fall auf 28 gerundet. Solche Rundungen sind prinzipiell (wie schon weiter oben beschrieben) unvermeidlich, nur in der Magnitude beeinflussbar durch die Menge an Bits.

[Harry Stahl]

Tja, man lernt nie aus...

Danke für die Erläuterungen. Ist gut zu wissen, wenn man irgendwelche Eingaben aus Edit-feldern übernimmt bzw. Positionsangaben für Objekte (unter FMX sind die Positionsangaben für Controls ja auch Single-Werte und nicht Integer, immerhin), vor allen Dingen, wenn man etwas berechnen will, das "relativ" genau sein sollte...

[p80286]

Es gibt ja auch andere Möglichkeiten:https://de.wikipedia.org/wiki/BCD-Code
Lesen und sich eine eigene Meinung bilden.

Gruß
K-H

P.S.
Meine Ausbilderin (ende der 70er) sagte immer Rechner sind schnell oder genau. Beides auf einmal geht nicht.

[freimatz]

Da hat sie sicher recht. Allerdings ungenau UND langsam geht auch recht einfach.

[Rollo62]

Zitat von p80286:

Es gibt ja auch andere Möglichkeiten:https://de.wikipedia.org/wiki/BCD-Code
Lesen und sich eine eigene Meinung bilden.

Gruß
K-H

P.S.
Meine Ausbilderin (ende der 70er) sagte immer Rechner sind schnell oder genau. Beides auf einmal geht nicht.

Wenn man den Wertebereich genau kennt, und auch die gewünschte Auflösung fix ist kann man ja auch mit integer arbeiten.
Z.B. Bereich ist innerhalt +/-100000 mit einer Auflösung von 0.001, dann kann man einfach intern mit IntVariable * 1000 rechnen, und nur bei Anzeigen wieder um 1000 korrigieren.
Die internen Berechnungen sind dann sehr schnell, mit Integer, nur bei den Ein- Ausgaben muss man konvertieren.
Das ist dann sehr exakt, nur bei Berecnungen muss man aufpassen das man nicht das Integer-Limit überschreitet.
Man könnte sich einen eigenen Typ dafür bauen und/oder mit record helpern eine Überlaufprüfung o.ä. einbauen.

[himitsu]

Zitat von Rollo62:

mit einer Auflösung von 0.001, dann kann man einfach intern mit IntVariable * 1000 rechnen, und nur bei Anzeigen wieder um 1000 korrigieren.
Die internen Berechnungen sind dann sehr schnell, mit Integer, nur bei den Ein- Ausgaben muss man konvertieren.
Das ist dann sehr exakt, nur bei Berecnungen muss man aufpassen das man nicht das Integer-Limit überschreitet.
Man könnte sich einen eigenen Typ dafür bauen und/oder mit record helpern eine Überlaufprüfung o.ä. einbauen.

Currency

[Rollo62]

Ja kann man nehmen, aber wenn z.B. Auflösung 0.0000001 gebraucht wird muss man sich was selber basteln, oder nicht ?
Currency wäre natürlich eine gute Basis.

Zitat:

Currency is a fixed-point data type. The maximum error when converting from floating-point to Currency is 0.00005.

Ich meine Curreny nutzt */ 10000 fix, oder kann man das irgendwo einstellen ?

[Uwe Raabe]

Nein, Currency kennt nur 4 Nachkommastellen.