Farbwert zu Dezimal

[Klaus01]

.. der verändert sich nicht, in der Routine,

Hatte das round falsch angewendet. round(0.4) -> 0
Nun mit round(0.25 * 255) ist d dann 64

und ja, auch mit diesen Werten wird der else Zweig aufgerufen.
Wenn alpha und d entsprechende Werte haben.

Grüße
Klaus

[EWeiss]

Habe mal VB angepasst so das ich genaue werte liefern kann.

Code:

            For x = 0 To w
                a = (((imgSpectrumData(x, y) And &HFF000000) \ &H1000000) And &HFF&)
                
                f = a - d

                If f < 0 Then
                  a = 0
                Else
                  a = f
                End If
                
                c = imgSpectrumData(x, y) And &HFFFFFF

                If a > 127 Then
                    imgSpectrumData(x, y) = c Or ((a - 256) * &H1000000)
                Else
                    imgSpectrumData(x, y) = c Or (a * &H1000000)
                End If

a bekommt den wert 0

f = a - d = -92

damit ist die Bedingung erfüllt das ich in die zweite Funktion(Bedingung) springe.
Da du aber Byte verwendest wird -92 niemals bei dir auftreten..

Deshalb springt er zwischen > 127 und < 0 denn 0.36 * 255 = 92 und a -d = -92

Also Byte ist definitive in dem fall dann nicht korrekt.
Hab jetzt alles durch das wird nix.
Danke trotzdem.

gruss

[Klaus01]

.. das mit der Hilfsvariablen ist eine gute Idee:

Delphi-Quellcode:

           for y:= 0 to h do
             for x := 0 to w do
               begin

                 alpha := ((imgSpectrum[x,y] and $FF000000) shr 24) and $FF;
                 _alpha := alpha - d;
                // if alpha < 0 then
                //   alpha := 0;
                 c := imgSpectrum[x,y] and $FFFFFF;
                 if _alpha > 127 then
                   imgSpectrum[x,y] := c or ((alpha -256) shl 24)
                 else
                   imgSpectrum[x,y] := c or (alpha shl 24);
               end;

Wobei _alpha vom type smallInt ist, alpha ist weiterhin ein Byte.

Grüße
Klaus

[EWeiss]

kommst du denn jetzt in beide else zweige?

gruss

[Klaus01]

Ja, aber mit dem Fadingwert von 0.32 häufiger in den else Zweig.

[EWeiss]

Zitat von Klaus01:

Ja, aber mit dem Fadingwert von 0.32 häufiger in den else Zweig.

Ok das funktioniert nicht bei mir.

Das Array als Integer definiert.
a als Byte
_a als SmallInt

komme nie über 127
weder mit fade über 0.5 noch mit drunter.
Ich versteh es nicht.

gruss

[Klaus01]

Je näher fading zur 1 rückt desto häufiger geht es in den else Zweig.
Bei d = 153 (f=0.6) kann _alpha nicht mehr größer als 127 werden.

alpha max = 255 und _alpha = alpha - d

Wenn man mit der Hilfsvariablen arbeitet muss alpah noch in der Berechnung angepasst werden.

Delphi-Quellcode:

                 if _alpha > 127 then
                   imgSpectrum[x,y] := c or (((alpha - d) -256) shl 24)
                 else
                   imgSpectrum[x,y] := c or ((alpha - d) shl 24);

Grüße
Klaus