Einzelnen Beitrag anzeigen

EWeiss
(Gast)

n/a Beiträge
 
#10

AW: Single wert ist unterschiedlich obwohl gleich

  Alt 18. Jun 2018, 10:56
Zitat:
Selbst Schuld, wenn du einen Wertebereich haben willst, der nichtmals Ansatzweise in den Datentyp passt.
0.68 passt nicht rein?
Nun gut wenn du das sagst ist es wohl so.

Zitat:
Und selbst wenn, dann sind auch innerhalb der Signifikanten Rundungsfehler möglich, vor allem bei gewissen unendlich langen Werten ala 2/3.
Hallo ?
Und wer erstellt diese? Genau! Delphi.
Ich habe übergeben 0.68 und Delphi mach daraus deinen unendlich langen Werten 0.68000000715 lese doch bitte nochmal was ich geschrieben habe.

Zitat:
2^24 = 16.777.215 = nicht ganz 8 Dezimalstellen (nur 1. bis 7. können alles von 0 bis 9 sein)
Sage das den Entwicklern des Delphi Compiler nicht mir
Wie gesagt.. Ich habe 0.68 übergeben und erwarte eigentlich das dieser wert auch berechnet wird.

gruss

Geändert von EWeiss (18. Jun 2018 um 11:40 Uhr)
  Mit Zitat antworten Zitat