sql-round

[khh]

hallo zusammen,
was ist an dieser formel falsch?

SQL-Code:

update artikelpreise set  NETTOPREIS  = Round((bruttopreis/107 * 100),3);

das Ergebnis ist gerundet auf eine Stelle hinterm Komma, ich brauch aber 3 Stellen :-(
beide felder sind decimal(8,3)


danke Gruss Kh

[haentschman]

Hallo,

ist das genau dein SQL oder nur sinngemäß ?

[mkinzler]

Eigentlich stimmt der Aufruf. Verwendest du die UDF oder die builtin-Funktion?

[khh]

Zitat:

Zitat von mkinzler

Eigentlich stimmt der Aufruf. Verwendest du die UDF oder die builtin-Funktion?

habe es genau so als Script im IB-expert ausgeführt

aus einem Bruttopreis von 1,000 macht er 0,900 :-(

[mkinzler]

Früher war diese Funktion nur per UDF verfügbar ab FB 2.1 auch direkt ohne die UDF. Deshalb meine Frage.

[khh]

ich hab grad nochmal im Programm nachgeschaut.
dort runde ich mit der Funktion RoundCurrency , damit das Ergebnis richtig kaufmännisch gerundet wird.

Vieleicht geht das kaufmännische runden mit sql-Funktion ja gar nicht?

[mkinzler]

Die interen Funktion rundet ab einer 5 auf und bis 4 ab

[khh]

Zitat:

Zitat von mkinzler

Die interen Funktion rundet ab einer 5 auf und bis 4 ab

das ist ja auch richtig
aber warum wird aus 0,934 - 0,900 ?

[mkinzler]

Dütfte nicht sein, deshalb auch die Frage ob du vielleicht eine gleichlautende UDF-Funktion nutzt!

[khh]

Zitat:

Zitat von mkinzler

Dütfte nicht sein, deshalb auch die Frage ob du vielleicht eine gleichlautende UDF-Funktion nutzt!

mh, und wie kann ich das rausfinden?
hab ganz einfach das Script im sql-editor von ib-expert ausgeführt

[mkinzler]

Schau mal im IbExpert unter UDF nach.

Was liefert

SQL-Code:

select bruttopreis/107 * 100 as brutto, Round(bruttopreis/107 * 100,3) as netto from artikelpreise;

[khh]

Zitat:

Zitat von mkinzler

Schau mal im IbExpert unter UDF nach.

Was liefert

SQL-Code:

select bruttopreis/107 * 100 as brutto, Round(bruttopreis/107 * 100,3) as netto from artikelpreise;

das liefert in brutto und netto das Gleiche nämlich genauso 0,900 , also die falsche Rundung

UDF gibts nur get_context und set_context

[mkinzler]

Dann liegt der Fehler ja nicht am Round sondern an der Berechnung, denn 0,900 ergibt auf 3 Nachkommastellen gerundet 0,900

[khh]

Zitat:

Zitat von mkinzler

Dann liegt der Fehler ja nicht am Round sondern an der Berechnung, denn 0,900 ergibt auf 3 Nachkommastellen gerundet 0,900

ich glaube jetzt haben wir uns falsch verstanden :-(


ich rechne 1,000 / 107 * 100 = 09,345 von hand.

die Formel rechnet 1,000 / 107 * 100 = 09,000

SQL-Code:

update artikelpreise set  NETTOPREIS  = round((bruttopreis/107 * 100),5);
oder
update artikelpreise set  NETTOPREIS  = round((bruttopreis/107 * 100),3);

dabei hab ich grad gemerkt es ist egal ob 3 oder 5 oder sonst was als 2tes Argument in der Formel steht :-(

das Ergebmis ist das Gleiche

auch

SQL-Code:

select bruttopreis/107 * 100 as brutto, Round(bruttopreis/107 * 100,5) as netto from  artikelpreise;

bringt das gleiche Ergebnis

[mkinzler]

Zitat:

ich glaube jetzt haben wir uns falsch verstanden Sad

Nein, denn das Round wird wohl schon mit dem falschen Wert gefüttert.

Was ergibt

SQL-Code:

select bruttopreis/1.07 from artikelpreise;

[khh]

Zitat:

Zitat von mkinzler

Was ergibt

SQL-Code:

select bruttopreis/1.07 from artikelpreise;

das ergibt den richtigen wert :-)

ist aber doch das Gleiche wie bruttopreis/107 * 100 ?

[mkinzler]

Jein. Beim Berechnen scheint der kleinste kompatible Typ verwendet zu werden.

bei 1.0 / 107 ist das der Integer von 107
->
bruttopreis/107.0 * 100.0

[khh]

Zitat:

Zitat von mkinzler

Jein. Beim Berechnen scheint der kleinste kompatible Typ verwendet zu werden.

bei 1.0 / 107 ist das der Integer von 107
->
bruttopreis/107.0 * 100.0

das ergibt dann 0,930 anstatt 09,345

naja ich machs jetz mit bruttopreis/1.07, dann passts


war jetzt wirklich ne schwere Geburt ;-)


ich danke euch.

Gruss KH