AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein Datenbanken Delphi Interbase SUM numeric overflow
Thema durchsuchen
Ansicht
Themen-Optionen

Interbase SUM numeric overflow

Ein Thema von MarkusT · begonnen am 9. Mär 2004 · letzter Beitrag vom 9. Mär 2004
Antwort Antwort
MarkusT

Registriert seit: 11. Nov 2003
4 Beiträge
 
Delphi 7 Architect
 
#1

Interbase SUM numeric overflow

  Alt 9. Mär 2004, 08:13
Ich habe ein Problem mit dem SUM-Befehl in Interbase.
Das zu summierende Feld ist vom Type NUMERIC(9,2).
Interbase ist aber nur in der Lage Summen bis ca. 21.000.000 zu bilden.
Zumindest funktioniert es bis 20.978.223,14. Bei einer theoretischen Summe von 21.638.270 steigt mein Programm (Delphi mit IBX), bie IBConsole und auch IBExpert mit "Arithmetic exception, numeric overflow, or string truncation".
Ich habe die Seleketionsbereiche auch nach vorne bzw. hinten verschoben. Es kann also nicht mit defekten Datensätzen zusammenhängen.
Kurioserweise funktioniert AVG.
Hier die SQL-Anweisung und der Query-Plan:
SQL-Code:
SELECT
 SUM(V.GR_GESAMTFLAECHE)
FROM
VERTRAGSDATEN V
WHERE ((V.VERTRAGSDATUM >='23.09.2003') AND (V.VERTRAGSDATUM <='26.11.2003'))
Code:
Plan PLAN (V NATURAL)

Adapted Plan PLAN (V NATURAL)

------ Performance info ------ 
Prepare time = 0ms
Execute time = 1s 157ms
Current memory = 3.218.408 
Max memory = 3.557.480 
Memory buffers = 2.048 
Reads from disk to cache = 0 
Writes from cache to disk = 6 
Fetches from cache = 12.779
Gibt es tatsächlich eine Beschränkung in Interbase?
Kann ich im Select eine Art von Typecast durchführen?

Gruß Markus
  Mit Zitat antworten Zitat
MarkusT

Registriert seit: 11. Nov 2003
4 Beiträge
 
Delphi 7 Architect
 
#2

Re: Interbase SUM numeric overflow

  Alt 9. Mär 2004, 14:17
So konnte mein Problem inzwischen selber lösen.
Feldlänge war nicht NUMERIC(9,2) sondern (8,2).
Nachdem ich das ganze auf 12,2 hoch gesetzt hatte, funktioniert auch SUM.
  Mit Zitat antworten Zitat
Antwort Antwort


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 10:50 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz