Forum: Object-Pascal / Delphi-Language
Delphi
by Rollo62,
27. Jun 2017
Ja ich bin von signifikanten Stellen ausgegangen. Das sin (e150) nicht funktioniert finde ich schon erschreckend. Ich hatte mit dem erstbesten online js Rechner getestet und der konnte etwas sinnvolles zurückgeben.
Das heisst für mich erstmal Achtung bei fliesskomma Rechnungen.
Mit Rundungsfehlern hätte ich gerechnet aber solche logikfehler eher nicht.
Forum: Object-Pascal / Delphi-Language
Delphi
by Rollo62,
26. Jun 2017
Ich hätte dazu auch noch ne Frage:
Wie bekommt man denn eine 150-stellige Zahl überhaupt hin ?
Extended sollte doch sofort auf 18-20 Stellen kürzen, oder bleibt 1.2E150 etwa so bestehen ?
LExt := 1.2E-150;
LExt := LExt + 0.1E-150; // Das geht tatsächlich
LExt := Sin(LExt); // Das aber wohl nicht
LExt := 1.2E-150;