Mach die Caption der GroupBox leer und verwende statt dessen ein TLabel, was du an die Stelle positionierst an der die Caption war (oder sein soll). Wenn nun das OnMouseEnter bzw. OnMouseLeave des Labels kommt, ist die Maus auf dem Label und auch nur da ...
(Tux? Ab zu Linux
)