AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Probleme mit Bereichsüberprüfung

Ein Thema von heiopei · begonnen am 14. Okt 2007 · letzter Beitrag vom 19. Okt 2007
 
heiopei
(Gast)

n/a Beiträge
 
#2

Re: Probleme mit Bereichsüberprüfung

  Alt 15. Okt 2007, 14:44
hallo nochmal,
so... ich hab mich jetzt noch ein bisschen gespielt und bemerkt, dass Round als Ergebnistyp Int64 liefert! Daher hab ich jetzt folgende Typcasts durchgeführt - und es ging:

var
tmp: Int64;
begin
tmp := Round(EnsureRange(AlterWert / Skalierung, Low(Integer), High(Integer));
NeuerWert := Integer(tmp);
...

Allerdings erhalte ich für sehr große x-Werte bei f(x)=x² komische Werte - z.T. null oder negativ.
Liegt vermutlich an Overflows - oder?.

Wie kann ich das Problem am besten lösen, so dass ich nur "NeueWerte" bis High(Integer) erhalte und alle Werte, die darüber hinaus gehen = High(Integer) setzt werden?????
(am besten, ohne Bluescreen )

mfg,
heiopei
  Mit Zitat antworten Zitat
 


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 02:11 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz