So, du gibst der JVM also minimal 1 GiB und maximal 3 GiB Speicher. Ist es denn ein 64 Bit Java?
Ist Java nicht maschinenunabhängig?
Die Programme, die man mit Java schreibt, sind unabhäüngig von der Plattform und der Maschine. Trotzdem gibt es zwei verschiedene JVMs bzw. Java-"Versionen" für Windows (und IIRC auch für Linux): 32 Bit und 64 Bit. Und wenn die Java-Anwendung in einem 32 Bit Java (java[w].exe ist dann eben 32 bittig) ausgeführt wird, ist der Adressraum auch nicht größer als für jedes andere 32 Bit Programm; es gelten dieselben Grenzen - und da auch die java[w].exe von Java7 kein Flag LARGE_ADDRESS_AWARE gesetzt hat, sind das 2 GiB Adressraum. Anders sieht die Sache natürlich mit einem 64 Bit Java aus, wie auch für normale 64 Bit Programme.
Unabhängig davon darf natürlich der Parentprozess nicht von selbst abschmieren, nur weil ein mittels CreateProcess erzeugter Kindprozess nicht laufen will/kann. Aber da die Informationen diesbzgl. bisher sehr dünn sind, kann man keinerlei Aussage zu möglichen Ursachen treffen.
MfG Dalai