Delphi kann, bzw.
Win32-Anwendungen können standardmäßig nur maximal 2 GB an "virtuellem" Speicher verwalten ... ist der voll, dann knallt's
Ich vermute mal du hast ein Speicherleck, durch dein Rumgepointere oder Anderswo.
Scheib mal
ReportMemoryLeaksOnShutdown := True;
in den Constructor deiner Form.