Haben deine Groupboxen den Stil WS_CLIPSIBLINGS?
Hat dein Hauptfenster den Stil WS_CLIPCHILDREN?
// Nachtrag
Noch was gefunden: Frame-Controls (BS_GROUPBOX, SS_...FRAME) zeichnen ihren Hintergrund *nicht* selbst, um die Hintergrundfarbe des übergeordneten Fenster zu übernehmen. Wenn du im Hauptfenster das Bit WS_CLIPCHILDREN gesetzt hat, dann bleibt dort ein Loch. Du solltest vielleicht für die Groupboxen WM_ERASEBKGND explizit abfangen und das Fenster-Rechteck löschen.