Gleitkommazahlen runden?

[HorstBS]

Hallo,

gibt es eine Möglichkeite Gleitkommatzahlen zu verkleinern, indem man sie z.b. bis auf die letzten 6 Stellen hinterm Komma verkürzt?

arbeite mit Zahlen wie 0,435345346456654 und bekomme immer die fehlermeldung das die Zahl zu groß sei wenn ich sie mathematisch verwenden will.

beim runden hab ich ja das Problem das evtl auf 1 oder 0 gerundet wird.

jemand ne idee?
danke
Horst BS

[Flare]

einfach mal 1000000 nehmen und dann runden und dann wieder durch 1000000 ^^

[Khabarakh]

Single/Double/Extended hat immer eine festgelegte Mantissenlänge, da kann nichts "zu lang werden". Wie heißt der Fehler genau/wie sieht die Codestelle aus?

[Nikolas]

Zitat:

arbeite mit Zahlen wie 0,435345346456654 und bekomme immer die fehlermeldung das die Zahl zu groß sei wenn ich sie mathematisch verwenden will.

Welche Fehlermeldung und was verstehst du unter 'mathematisch verwenden'?

Um an die ersten sechs Stellen zu kommen, kannst du das Komma per Mulitplikation mit 10^6 nach rechts schieben, dann runden und per Muliplikation mit 10^-6 wieder zurückschieben.
Also

Delphi-Quellcode:

 x:= round(x*1000000)/1000000;

[ichbins]

Ein Gleitkommawert wird (stark vereinfacht) so gespeichert:

Code:

Integerwert für Wert der Zahl | Integerwert der soviel heisst wie: mal zwei hoch mich

also das:

4 - 6

würde heissen: 4 * 2^6 also 256. Zu groß kann die Zahl nicht werden, da für die einzelnen Bereiche immer nur eine bestimmte Anzahl von Bytes definiert wird. Zu groß wird die Zahl erst, wenn der hintere Bereich zu groß wird, und das ist erst bei Zahlen WEIT jenseits von 10^10 (bei Extended bei ungefähr 10^5000).

[Khabarakh]

Zitat:

Zitat von ichbins

Code:

Integerwert für Wert der Zahl

Ein Integer ist es auf keinen Fall. Zuerst einmal ist es natürlich nur ein Bitstrom. Auf deiner Abstraktionsebene wäre es eine normalisierte Binärzahl. Da eine normalisierte Binärzahl immer mit 1,... beginnt, kann diese Stelle gleich weggelassen werden (-> "Hidden Bit").

[xaromz]

Hallo,

zum Runden auf eine bestimmte Anzahl von Nachkommastellen werfe ich mal RoundTo aus der Unit Math in die Runde.

Gruß
xaromz