AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Sprachen und Entwicklungsumgebungen Sonstige Fragen zu Delphi Delphi Arithmetik 16-Bit word und 32-Bit single

Arithmetik 16-Bit word und 32-Bit single

Ein Thema von Mr. G · begonnen am 15. Jul 2005
Antwort Antwort
Mr. G

Registriert seit: 15. Jul 2005
3 Beiträge
 
#1

Arithmetik 16-Bit word und 32-Bit single

  Alt 15. Jul 2005, 09:22
Hallo,

ich habe mich mal dran gemacht, um zu sehen, ob ich die Rundungsfehler,
die bei einer Multiplikation eines 16-Bit-integers mit einem 32-Bit-Single,
entstehen, rechnerisch nachvollziehen kann. Das ist mir bislang nicht
ganz gelungen.

Delphi-Quellcode:
var w:word; s,e:single;

w:= 16384;
s := 0.6;
e := w * s;

//s = 0.60000002384
//e = 9830.400390625
Das tatsächliche Ergebnis lautet ja bekanntlich 9830.4

16384 dez = 0100 0000 0000 0000 bin
0.6 dez = 0.1001 1001 1001 1001 1001 .... bin

Okay, s wird in eine Gleitkommazahl vom Typ Single umgewandelt.
Hier gibt es das erste Problem. Ich komme nicht auf den Wert
0.60000002384, sondern er liegt bei mir unter 0.6.

0.6 als Gleitkommazahl dargestellt sieht bei mir so aus:

(VZ) (E-8 Bit) (Mantisse-23 Bit)
0 0 1 1 1 1 1 1 0 0 0 1 1 0 1 1 .....

Was ist daran falsch ?

Danke für jede Antwort.

Gruss
Mr. G !
  Mit Zitat antworten Zitat
Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 08:26 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz