Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

[Der schöne Günther]

Den TWebbrowser habe ich nie benutzt, lehne mich aber soweit aus dem Fenster zu behaupten dass der vollkommen fehl am Platz ist.
Wenn du die XML von einer URL laden willst kannst du

• die Indy-Komponenten verwenden
• Das XML direkt mittels LoadXmlDocument(..) laden
• Bestimmt noch anders

Zu 2):

Delphi-Quellcode:

unit Unit2;

interface

uses
   System.Classes,
   Vcl.Forms, Vcl.StdCtrls, Vcl.Controls,
   Xml.XmlIntf;

type
   TForm2 = class(TForm)
      Memo1: TMemo;
      Button1: TButton;
      Button2: TButton;

      procedure Button1Click(Sender: TObject);
      procedure Button2Click(Sender: TObject);

      protected var
         myXmlDocument: IXMLDocument;
   end;

var
   Form2: TForm2;

implementation uses Xml.XmlDoc;

{$R *.dfm}

procedure TForm2.Button1Click(Sender: TObject);
begin
   myXmlDocument := LoadXMLDocument('http://www.dragonlords.info/dev/big.xml');
end;

procedure TForm2.Button2Click(Sender: TObject);
begin
   Memo1.Lines.Assign(myXmlDocument.XML);
end;

end.

Das Einfügen in die Memo dauert ewig. Ich denke das liegt daran, dass deine 5MB-Datei nur aus einer einzigen Zeile besteht. Selbst Notepad++ bekommt hier Performance-Probleme. Das habe ich bei Notepad++ noch nie gesehen!

Spendier der XML doch Zeilenumbrüche.

[Mike_on_Tour]

Hallo,

ich musste gerade etwas schmunzeln, als ich die Überschrift gelesen habe. Ich kämpf(t)e auch mit den XML-Dateien und bin schon mehrfach an 3 GB Hauptspeicherverbrauch 'gestorben'. Wir verwenden teilweise eigene XML-Routinen, teilweise abgeleitet von ThaXML und teilweise abgeleitet von XMLParser (von Stefan Heymann). Nach ein paar Korrekturen im Sourcecode liegt der Speicherverbrauch unterhalb von 2 GB.

Mein Programm:
- erzeugt 4 bis 5 XML-Dateien mit jeweils über 780.000 Zeilen (mit Zeilenumbrüchen !)
- jede XML-Datei hat eine Größe von ca. 65 MB
- das erzeugen einer XML-Datei dauert zur Zeit etwa 40 Minuten (alles im Hauptspeicher)
- jede XML-Datei in eine Textdatei konvertieren
- die Textdatei hat eine Größe von ca. 5 MB
- das erstellen der Textdatei dauert ca. 8 Minuten

Die Anzeige einer XML-Datei habe ich mit VirtualTreeView (von Mike Lischke) realisiert. Das Lesen einer XML-Datei dauert hier ca. 15 Sekunden.

Zum Vergleich: das Lesen einer XML-Datei mit Notepad++ dauert ca. 30 Sekunden.

Mike

[Sherlock]

Das sind absurde Zahlen! XML ist doch nix anderes als "gepimpter" Text. Wer braucht da 40 Minuten zum erzeugen so einer popligen Datei? Bisher habe ich die XML-Komponentenumschifft und hab meine XML naiv händisch aufgebaut (jedes Tag ist eine eigene Methode, die für den wohlgeformten Ausdruck sorgt), ich komme in ähnliche Größenordnungen, dürfte mir aber keine 40 Minuten zum Aufbau erlauben.

Sherlock

[Mike_on_Tour]

Zitat von Sherlock:

Das sind absurde Zahlen! ... Wer braucht da 40 Minuten zum erzeugen so einer popligen Datei? ... dürfte mir aber keine 40 Minuten zum Aufbau erlauben.

Ich habe mit Absicht weggelassen, was alles im Programm abläuft und woher die Daten kommen. Ich kann aber versichern, dass der Ablauf so schon seine Ordnung hat. Hätte ich eine bessere Lösung gehabt, wäre sie auch umgesetzt worden. Übrigens, dem Anwender dürften die ca. 4 Stunden "Aufwand" (5 x 40 Minuten + 5 x 8 Minuten) immer noch besser gefallen, als wie ca. 15000 Seiten zu drucken und zu sortieren.

Mike

[himitsu]

Es kommt immer darauf an, was man machen will und welche Funktionen man nutzt.

• HTML-Browser zum Laden und Darstellen der XML, welcher das natürlich für die Anzeige in ein HTML-DOM läd und in eine aufwändige GraphicEngine überführt. (und zusätzlich noch ein XML-DOM, da es so bei ihm integriert ist, anstatt es als "einfache" Textdatei zu behandeln)
• ein XML-DOM, welcher die Datei samt Metainformationen fein aufgedröselt im RAM verwaltet
• ein XML-SAX, welches, während der Behandlung, nur den aktuellen Knoten und maximal den aktuellen Pfad im RAM hat und den Rest als Text-Stream irgendwo besitzt

Wenn man viele Knoten sequentiell verarbeiten will, dann wäre das Mittel der Wahl ein SAXParser/SAXWriter.

Und wnen man die XML-Datei nur runterladen will, dann nimmt man natprlich nur eine "Download"-Komponente und nicht gleich einen kompletten Browser.

[Sherlock]

Zitat von Mike_on_Tour:

Ich habe mit Absicht weggelassen, was alles im Programm abläuft und woher die Daten kommen. Ich kann aber versichern, dass der Ablauf so schon seine Ordnung hat.

Dann bin ich ja beruhigt, das es nicht um den reinen XML-Aufbau geht. Denn ich muss mich wohl oder übel derzeit auf WSDL/XSD-Import einlassen, und habe dabei gar kein so gutes Gefühl.

Sherlock

[Mike_on_Tour]

Zitat von Sherlock:

Zitat von Mike_on_Tour:

Ich habe mit Absicht weggelassen, was alles im Programm abläuft und woher die Daten kommen. Ich kann aber versichern, dass der Ablauf so schon seine Ordnung hat.

Dann bin ich ja beruhigt, das es nicht um den reinen XML-Aufbau geht. Denn ich muss mich wohl oder übel derzeit auf WSDL/XSD-Import einlassen, und habe dabei gar kein so gutes Gefühl.

Ich habe noch mal nachgerechnet. Die Erstellung der XML-Datei dauert tatsächlich nur ca. 5 Minuten. Die restliche Zeit wird für Berechnungen und Prüfungen verwendet. Meine 40 Minuten waren da wohl nicht korrekt.

Mike

[Sherlock]

Du Schelm, Du! Kannst doch nem alten Mann nicht so einen Schrecken einjagen.

Sherlock

[Ajintaro]

Hi nochmal,

Wie setzt man denn mit idHTTP einen Post Befehl mit mehreren Parametern ab ? Muss eigens dafür eine for - Schleife geschrieben werden um jeden Parameter einzeln:

Params.WriteString(URLEncode(KEY + VALUE + '&')); zu encoden ?

Meine Parameter kommen in einer Zeile wie z.B. username=Rolf&pass=Geheim&Anzug=Gruen&Ort=SanktAug ustin
Muss eine Prozedur geschrieben werden um die einzelnen Wertepaare zu ermitteln?

Delphi-Quellcode:

{++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++
//submit_post
+++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++++}
Procedure submit_post(url_string,parameter:string;amemo:TMemo);
var
  aStream: TMemoryStream;
  Params: TStringStream;
begin
  aStream := TMemoryStream.create;
  Params := TStringStream.create('');
  try
    with Fmain.IdHTTP1 do
    begin
       
      //Params.WriteString(URLEncode('user=' + Edit1.Text + '&'));
      //Params.WriteString(URLEncode('pass=' + Edit2.Text));

      Request.ContentType := 'application/x-www-form-urlencoded';
      try
        Response.KeepAlive := False;
        Post(url_string, Params, aStream);
      except
        on E: Exception do
          showmessage('Error encountered during POST: ' + E.Message);
      end;
    end;
    aStream.WriteBuffer(#0' ', 1);
    aStream.Position := 0;
    amemo.Lines.LoadFromStream(aStream);
  except
    aStream.Free;
    Params.Free;
  end;
end;

[hathor]

#11 ist "umständlich"...

Besser so:

Delphi-Quellcode:

procedure TForm4.Button2Click(Sender: TObject);   //SAVE XML
var fs: TFileStream;  XMLadress: String;
begin
  fs := TFileStream.Create('D:\big.xml', fmCreate);
  XMLadress:='http://www.dragonlords.info/dev/big.xml';
  try
      IdHTTP1.Get(XMLadress, fs);
  finally
    fs.Free;
  end;
end;

procedure TForm4.Button3Click(Sender: TObject);   //LOAD XML
begin
Memo1.Lines.LoadFromFile('D:\big.xml');
end;