Einzelnen Beitrag anzeigen

Benutzerbild von Binärbaum
Binärbaum

Registriert seit: 19. Jan 2005
Ort: Elstra
764 Beiträge
 
Delphi 7 Enterprise
 
#11

Re: "Ungültige Gleitkommaoperation"

  Alt 3. Mär 2005, 21:32
Zitat von TheAn00bis:
Danke und gibt es auch noch eine Möglichkeit mit Double oder Extended mod (modulo) zu verwenden? Muss ich mir die Funktion jetzt selber schreiben?
Modulo gibt es (ebenso wie den div-Operator) nur für ganzzahlige Typen (Byte, shortInt, LongInt, Cardinal,...). Modulo für Real-Typen wäre (wenn es sowas gäbe) aber nicht sinnvoll, da diese die Zahlen anders speichern als beispielsweise Integer. Bei Real-Typen ist die Genauigkeit nämlich begrenzt. Wenn ein Real-Typ z.B. auf 6 Stellen genau arbeitet, dann werden solche Zahlen wie 123.456.789.012 nur als 123.456.000.000 gespeichert. Die Zahl 123.456.789.999 würde ebenfalls als 123.456.000.000 gespeichert, obwohl es eine andere Zahl ist, da die Genauigkeit des Real-Typs nicht mehr Stellen hergibt. Das hätte zur Folge, dass beide Zahlen trotz ihrer Ungleichheit das selbe Ergebnis liefern, wenn man Modulo auf sie anwendet. Und das ist ja wohl nicht erwünscht.
Also gibt es nur zwei Möglichkeiten: entweder du bleibst mit den Potenzen im Bereich von Int64, oder du nimmst Double (bzw. Extended) für größere Zahlen und musst dich dann damit zufrieden geben, dass es in diesem Bereich kein Modulo mehr gibt.
Die dritte und aufwendigste Methode wäre, sich einen eigenen Ganzzahl-Datentyp zu basteln. Für den müsste man dann aber auch alle Rechenoperationen neu programmieren.

MfG
Binärbaum
There are exactly 10 kinds of people: those who understand binary, and those who don't.
---
"Software reift beim Kunden. Bei Hardware ist es anders: Hardware fault beim Kunden." - Rainer G. Spallek
  Mit Zitat antworten Zitat