|
Registriert seit: 10. Jun 2003
Ort: Berlin
9.358 Beiträge
Delphi 11 Alexandria
|
AW: Genauigkeit von String to Single Konvertierung
1. Apr 2020, 06:00
wieso gibt es hier bei so einer einfachen Konvertierung eine Ungenauigkeit?
Weil die Zahlen im PC im Binärsystem dargestellt werden, Stichwort Zweierkomplement (übrigens im Studium ein Lieblingsthema bei einigen  ). Hier im Video ist das auf den ersten Blick gut zu sehen (hab nur kurz auf die Tafel geschaut, nicht zugehört):
 https://www.youtube.com/watch?v=hHpSwBf0DCA
Sebastian Jänicke
Alle eigenen Projekte sind eingestellt, ebenso meine Homepage, Downloadlinks usw. im Forum bleiben aktiv!
|