AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Suchfunktion Ergebnis der Suchanfrage

Ergebnis der Suchanfrage


Datum des Suchindex: Heute, 21:47

Parameter dieser Suchanfrage:

Suche in Thema: MS SQL Genauigkeit in der Termauswertung
Suche alle Beiträge, die von "Moombas" geschrieben wurden
• Suchmethode: "Suche nach allen Begriffen"
• Nach Datum (firstpost) sortiert
• Zeige Treffer als Beiträge
Zeige 9 von insges. 9 Treffern
Suche benötigte 0.000s

Es liegen Ergebnisse in folgenden Bereichen vor:

  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    Naja, wenn ich eine Rechnung (12 / 100 * 0.5) habe und als Ergebnis 0 erhalte, obwohl die Rechnung nach (normalen) Rechenregeln 0.06 ergibt, ist 0 ein falsches Ergebnis (aus rein mathematischer Sicht).
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    blöder Doppelpost -.-
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    Bekloppt, habe die Seite neu geladen und das nun nochmal eingegeben und erhalte nun AUCH 0.... dann habe ich dahingehend nichts gesagt -.- (Anwender Fehler, habe den Code von links nicht nach rechts NEU kopiert^^)

    Dennoch scheint man mehr als die "normalen" Rechenregeln in MS SQL bedenken zu müssen.



    Also muss im Bruch auch mindestens eine Zahl eine Kommazahl sein, damit er mit...
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    Entfernt, da falsch.
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    Falsch, denn sobald du mit 0 Multiplizierst ist das Ergebnis IMMER 0, aber du beweist ja auch:
    (12.0 / 100 * 0.5) = 0.06 //Wäre 12.0 / 100 = 0, wäre das Ergebnis auch 0!
    (12 / 100.0 * 0.5) = 0.06 //Wäre 12 / 100.0 = 0, wäre das Ergebnis auch 0!
    Somit musst du die erforderliche Anzahl der Kommastellen in der Rechnung angeben, damit nicht abgeschnitten wird!
    Ergo fehlt bei der Rechnung (12 /...
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 13. Jun 2019
    Jaein, denn: Nimmst du 0,1*0,1 stimmt die Aussage (=0,01) ABER: nimmst du 0,1*1,0 wäre das korrekte Ergebnis 0,1 (die nachstehenden Nullen sind irrelevant, da 0,1 = 0,10).
    Und warum das in DIESEM Fall durchaus interessant ist: Das Ergebnis der Rechnung wäre 0,006 (3 Nachkommastellen), wenn nun aber in der Rechnung (0.1 * (0.5 / 100 * 12)) nur 2 Nachkommastellen vorkommen und daher davon...
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 12. Jun 2019
    @Delphi.Narium: Kannst du mein Beispiel mit der Klammersetzung auch mal ausgeben und Posten (oder rein editieren)? Würde mich einfach mal interessieren.



    Interessant finde ich, das die Anzahl der Nachkommastellen im Ergebnis jedesmal der Summe der Nachkommastellen in der Rechnung Entspricht. Also sonst auch mal probieren (wo man auch immer die Stellen platziert, wenn man vorher wissen muss...
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 12. Jun 2019
    Müsste dann nicht auch 0.5/100 auch 0 ergeben!? Und da in einer (reinen) Multiplikation einmal eine "0" vor kommt (bei beiden Rechenbeispielen!) wäre das Ergebnis BEIDER Beispiele 0, also sogar gleich. Aber du sagst das Ergebnis sei unterschiedlich, also kann diese Begründung nicht passen.
  • Forum: Datenbanken

    AW: MS SQL Genauigkeit in der Termauswertung

     
      by Moombas, 12. Jun 2019
    Also generell gilt normalerweise das die Positionen bei Punktrechnung beliebig tauschen kannst.

    MS SQL scheint den "Bruch" (12/100 bzw. 0,5/100) nicht zu erkennen und zieht einfach die Punktrechnung vor. Daher bekommst du falsche und verschiedene Ergebnisse:

    select 12/100*0.5 => 12/50 = 0.24
    select 0.5/100*12 => 0.5/1200 = 0.00041666

    Normalerweise wäre 0.06 das richtige Ergebnis.
    ...


URL zu dieser Suchanfrage:

https://www.delphipraxis.net/dp_search.php?do=usersearch&search_username=Moombas&search_exact_username=1&search_sortby=dateline&search_resulttype=post&search_matchmode=0&searchthreadid=200971
Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 22:01 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz