Forum: Algorithmen, Datenstrukturen und Klassendesign
by tralala,
20. Jul 2012
@Jfheinz
warum wird dann an vielen Stellen darauf hingewiesen, das man wenn man mit einem Fließkommawert multiplizieren will man z.b. 2.0 anstatt 2 schreiben soll.
Der Compiler kann doch nicht richen was gemeint ist? Ich bin da unter Java schonmal böse auf die Nase gefallen.
Double:= Double * Double; -> zb. X:= 1,15478 * 2 vs. X:= 1,15478 * 2.0
(2 und 2.0 sind in dem Fall konstanten)
...
Forum: Algorithmen, Datenstrukturen und Klassendesign
by tralala,
20. Jul 2012
@markus
danke für deine Antwort, nur nutzt sie mir leider nichts. Ich komme aus dem java umfeld und dort führt
es zu großen Ungenauigkeiten wenn man z.B. 2 * 2,5 berechnen möchte und die 2 nicht als 2.0 schreibt.
Es kommt dadurch zu großen Fehlern weil der Nachkommateil bei der Berechnung nicht einbezogen wird.
mfg
Forum: Algorithmen, Datenstrukturen und Klassendesign
by tralala,
20. Jul 2012
Wandelt der Compiler den integer in
1024 oder korrekt in 1024.0 um? Es geht um Nachkommaverluste auf die 8 Stelle
mfg
Forum: Algorithmen, Datenstrukturen und Klassendesign
by tralala,
20. Jul 2012
Hallo zusammen,
ich habe folgenden Code
px:= width / (lp1-lp2);
Die Variablen px, lp1 und lp2 sind vom Typ Double. width ist vom Typ Integer. Wäre es besser width
vorher in ein Double umzuwandeln um höhere Genauigkeit zu erzielen?