Einzelnen Beitrag anzeigen

Moombas
(Gast)

n/a Beiträge
 
#30

AW: MS SQL Genauigkeit in der Termauswertung

  Alt 13. Jun 2019, 08:07
Bekloppt, habe die Seite neu geladen und das nun nochmal eingegeben und erhalte nun AUCH 0.... dann habe ich dahingehend nichts gesagt -.- (Anwender Fehler, habe den Code von links nicht nach rechts NEU kopiert^^)

Dennoch scheint man mehr als die "normalen" Rechenregeln in MS SQL bedenken zu müssen.

  • (12.0 / 100 * 0.5) = 0.06
  • (12 / 100.0 * 0.5) = 0.06
  • (12 / 100 * 0.50) = 0.06
Das 3te ist falsch, da kommt auch 0 raus, weil 12/100 sich zu 0 berechnet.
Also muss im Bruch auch mindestens eine Zahl eine Kommazahl sein, damit er mit Kommastellen rechnet (!?) und du somit das richtige Ergebnis bekommst. Wobei dann wirklich egal ist wie viele Kommastellen man in der Rechnung angibt:

select 12 / 100 = 0;
select 12 / 100.0 = 0.12;

Geändert von Moombas (13. Jun 2019 um 08:25 Uhr)
  Mit Zitat antworten Zitat