Bei openProcess musst du prozess-IDs übergeben. Die bekommst du über GetWindowThreadProcessID, wenn du das Fensterhandle hast.
Hast du das nicht, bleibt dir der Weg über die ToolHelp32-Funktionen.
hier hab ich mal einen Tipp gepostet, der anhand des Anwendungsnamens die Fensterhandle auflistet. Daei wird u.a. auch die Prozess-ID ermittelt.