Ergebnis der Suchanfrage

• Forum: Datenbanken

  Re: Rechnen mit double precision

    Delphi
    by hoika, 20. Feb 2007
  Hallo,
  
  dabei kann es aber zu Rundungsfehlern beim sub führen,
  deshalb multipliziere ich beide Werte vorher mit 100.
  Der cast auf Integer ist ja dann sowas wie ein Trunc *hoff*
  
  
  Heiko
• Forum: Datenbanken

  Re: Rechnen mit double precision

    Delphi
    by hoika, 19. Feb 2007
  Hallo,
  
  OK, erledigt, mit dem Cast zu Integer buw numeric(x mit x > irgendwas
  scheint das zu klappen.
  Muss nur mal ein paar "böse Daten" für Tests anlegen.
  
  
  Heiko
• Forum: Datenbanken

  Re: Rechnen mit double precision

    Delphi
    by hoika, 19. Feb 2007
  Hallo,
  
  Numeric ist aber auch fliesskomma .. (zumindestens > 10,2)
  Aber ein Cast auf Integer müsste ja vielleicht gehen ...
  Hat denn FreeUDF dafür nix ???
  
  
  Heiko
• Forum: Datenbanken

  Rechnen mit double precision

    Delphi
    by hoika, 19. Feb 2007
  Hallo #,
  
  ich habe Records mit 2 double precision Feldern (Field_Min, Field_Sub).
  Pro Eintrag (WorkStep) gibt es mehrere dieser Records
  Etwa so
  
  WorkStepId Min Sub
  2 3.5 1.0
  2 4.0 0.0
  3 2.0 0.0