Bei ShowModal wird das programm angehalten, solange die Form sichtbar ist und es wird geziehlt eine Messageloop in der
DLL durchlufen.
Ohne ShowModal läuft aber die MessageLoop der EXE und da ist es schon klar, daß es da schonmal zu Problemem kommen kann, da es sich um 2 getrennte VCLs halten.
Du kannst aber aus der
DLL eine
BPL (
Package) machen, dan wird es keine Probleme mehr geben, die
DLL und die EXE nun die selbe
VCL benutzen.
Sollte es sich nicht um eine Delphi-EXE handeln, dann hast du halt Pech.
(da könnte man höchstens noch versuchen die
DLL in einem eigenem Thread laufen zu lassen.)