brauche kleine Hilfe in ASM, Flaschenhals

[stoxx]

Zitat:

Alternativ hätte man auch einfach unsigned 32-bit fixed point mit festen 4 Decimals nehmen können: Damit hätte man immerhin Kurse bis 429496,7296 Darstellen können.

ja, das sind so die ersten Gedanken, die man hat, wenn man auf das Problem stößt.
Dummerweise haben einige Futures und Forex Kurse 6 Nachkommastellen.
(z.B. USD/JPY Future hat 6 Nachkommastellen)

Mit 4294,967296 bei einem Festkomma von 6 wird es arg knapp

ich kann jetzt:

FMinValue2 = -5368709.12;
FMaxValue2 = 5368709.11;

FMinValue4 = -53687.0912;
FMaxValue4 = 53687.0911;

FMinValue6 = -536.870912;
FMaxValue6 = 536.870911;

// FMinValue8 = -5.36870912; //frei
// FMaxValue8 = 5.36870911;


@Hagen .. 3 shl 29 ist eine super Idee ! Das war das, wo ich im Gefühl hatte, man kann noch etwas ändern
ich glaube ich bin zufrieden, werde es jetzt mal ausgiebig testen.

Vielen Dank !!
Gruß stoxx