Moin cyberrowdy72,
Du müsstest wohl, in dem Bereich, in dem die vorherige Instanz beschäftigt ist eine Abbruchbedingung abzufragen. Der Wert hierfür kann dann in der WndProc, oder einer entsprechenden einzelnen Ereignisroutine, der Wert gesetzt werden, wenn WM_CLOSE empfangen wird. Voraussetzung ist natürlich, dass die Messages auch abgefragt werden.
Wäre es nicht einfacher, beim Start einer Instanz zu prüfen, ob schon eine läuft, und dann die zusätzlich gestartete zu beenden (
CreateMutex,
CreateSemaphore)?