Also da das ganze mit Overlay geht wird das mit über dem panel liegen nicht klappen. Was aber auf jeden fall funktioniert (gerade probiert) ist das du das Panel wo das Video drauf angezeigt wird mit "SetWindowRgn" entsprechend eine form zuweist.
So kannst du zum Beispiel ein kleines Viereck an der Oberseite rausschneiden. (und somit sieht man was unter dem Panel dort liegt:
Delphi-Quellcode:
var LReg: Cardinal;
LPoints: Array of TPoint;
begin
SetLength(LPoints, 9);
LPoints[0] := Point(0, 0);
LPoints[1] := Point(40, 0);
LPoints[2] := Point(40, 40);
LPoints[3] := Point(80, 40);
LPoints[4] := Point(80, 0);
LPoints[5] := Point(Panel1.Width, 0);
LPoints[6] := Point(Panel1.Width, Panel1.Height);
LPoints[7] := Point(0, Panel1.Height);
LPoints[8] := Point(0, 0);
LReg := CreatePolygonRgn(LPoints[0], Length(LPoints), WINDING);
SetWindowRgn(Panel1.Handle, LReg, True);
DeleteObject(LReg);