Sichtbares Fenster kann nicht in modales geändert werden

[Blup]

Ohne den Quelltext deine Anwendung zu kennen, ist das nur ein Ratespiel.
Du verwendest die Form-Variablen die Delphi automatisch zu jedem Formular anlegt?
Hast du sichergestellt das diese Variablen wieder auf nil gesetzt werden, wenn das entsprechende Formular freigegeben wird?
Falls nähmlich nicht, zeigen diese Variablen dann auf einen Speicherbereich, der alles mögliche enthält, nur kein Formular.
Das führt dann zu interessanten Effekten, z.B. so wie du sie beschrieben hast.