AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Ausgabe ist falsch, warum?

Ein Thema von Dave729 · begonnen am 31. Aug 2010 · letzter Beitrag vom 1. Sep 2010
Antwort Antwort
Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#1

AW: Ausgabe ist falsch, warum?

  Alt 31. Aug 2010, 17:30
Ja dann ist klar

Wenn ich aber auf den gleichen weg die Zahl mit 1000 oder 1200 multipliziere, dann kommt das richtige ergebnis.
Warum nicht bei 800?
Falsch. Es kommt was positives raus, aber nicht das richtige.

Ein Integer geht nun mal nur bis 2^31-1 darüber passiert ein Integerüberlauf (googlen)

Abhilfe: Schalte die Überlaufmeldungen ein und benutze Int64 oder vermeide so große Zahlen

http://de.wikipedia.org/wiki/Ganzzahlüberlauf
  Mit Zitat antworten Zitat
Benutzerbild von jfheins
jfheins

Registriert seit: 10. Jun 2004
Ort: Garching (TUM)
4.579 Beiträge
 
#2

AW: Ausgabe ist falsch, warum?

  Alt 31. Aug 2010, 21:08
Wie gesagt:
Abhilfe: Schalte die Überlaufmeldungen ein und benutze Int64 oder vermeide so große Zahlen
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 13:10 Uhr.
Powered by vBulletin® Copyright ©2000 - 2025, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024-2025 by Thomas Breitkreuz