AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Zurück Delphi-PRAXiS Programmierung allgemein GUI-Design mit VCL / FireMonkey / Common Controls Delphi Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

Ein Thema von Ajintaro · begonnen am 15. Okt 2014 · letzter Beitrag vom 15. Okt 2014
Antwort Antwort
Seite 1 von 2  1 2   
Benutzerbild von Ajintaro
Ajintaro

Registriert seit: 20. Okt 2004
Ort: Sankt Augustin
138 Beiträge
 
Delphi XE6 Starter
 
#1

Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 09:55
Hallo DP !

Ich habe eine sehr simple Anwendung erstellt mit nur 4 Komponenten:

- TWebbrowser
- TButton
- TStatusBar
- TTimer

Eine Funktion zur Ermittlung der Hauptspeichernutzung des eigenen Programms:

Delphi-Quellcode:
function getMyMemoryUsageInKb : integer;
var
  pmc: PPROCESS_MEMORY_COUNTERS;
  cb: Integer;
begin
 cb := SizeOf(_PROCESS_MEMORY_COUNTERS);
 GetMem(pmc, cb);
 pmc^.cb := cb;
 if(GetProcessMemoryInfo(GetCurrentProcess, pmc, cb))then
   result := pmc^.WorkingSetSize div 1024
 else
   result := -1;
 FreeMem(pmc);
end
Ich navigiere per button zu meiner XML Datei (ca. 5,6 MB):

webbrowser1.Navigate('http://www.dragonlords.info/dev/big.xml'); Der Timer zeigt mir nur die RAM-Auslastung an:

Statusbar1.Panels[0].Text := 'RAM: '+ FLoatToStr(Ceil(getMyMemoryUsageInKb/1024)) + ' MB'; Mehr macht diese Anwendung nicht. Das erschreckende daran ist, sie nutzt ca. 750-800 MB Hauptspeicher !

Ich möchte aber mehrere XML Dateien ähnlicher Größenordnung nacheinander untersuchen, jedoch schmiert mir die Entwickler-VM aufgrund zu wenig Hauptspeicher ab. Der IE 11 des Betriebssystems addressiert bei diesem Seitenaufruf ca. 220MB und wächst in kleinen Schritten bis ... weiß nicht genau, bei 280MB habe ich ihn geschlossen.

Wie kann man denn solche großen XML files untersuchen ohne den RAM Bedarf der eigenen Anwendung auf Gigabytegröße anwachsen zu lassen ?

www.dragonlords.info/dev/leak_demo.rar
Jaimy
DAoC 2.0 -> Camelot Unchained !

Geändert von Ajintaro (15. Okt 2014 um 09:58 Uhr) Grund: Link eingefügt
  Mit Zitat antworten Zitat
Der schöne Günther

Registriert seit: 6. Mär 2013
5.866 Beiträge
 
Delphi 10 Seattle Enterprise
 
#2

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 10:06
Grade mal ausprobiert. Ja, wird riesig. Warum? Keine Ahnung.

Aber warum in aller Welt will man das tun? Die XML in einem TWebBrowser anzuzeigen wird ja nicht dein eigentliches Ziel sein. Wenn du nur zu Debugzwecken den Text irgendwo haben willst, nimm doch ein TMemo.

Willst du die XML auswerten, mach das doch über Xml.XmlIntf.IXMLDocument . Das braucht dann keine 20MB Hauptspeicher (zumindest bei mir).


Hey, Sankt Augustin.
  Mit Zitat antworten Zitat
Benutzerbild von Ajintaro
Ajintaro

Registriert seit: 20. Okt 2004
Ort: Sankt Augustin
138 Beiträge
 
Delphi XE6 Starter
 
#3

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 10:33
Hi,

ich muss das XML nicht im Browser darstellen, ich brauch das reine XML in einem TMemo. Das hab ich folgendermaßen gebaut:

WebBrowser1DocumentComplete:

Delphi-Quellcode:
var
xml:WideSstring;
doc: OleVariant;

doc := Webbrowser1.Document;
xml := doc.XMLDocument.xml;
Memo1.lines.add(xml);
Jaimy
DAoC 2.0 -> Camelot Unchained !
  Mit Zitat antworten Zitat
Der schöne Günther

Registriert seit: 6. Mär 2013
5.866 Beiträge
 
Delphi 10 Seattle Enterprise
 
#4

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 11:00
Den TWebbrowser habe ich nie benutzt, lehne mich aber soweit aus dem Fenster zu behaupten dass der vollkommen fehl am Platz ist.
Wenn du die XML von einer URL laden willst kannst du
  • die Indy-Komponenten verwenden
  • Das XML direkt mittels LoadXmlDocument(..) laden
  • Bestimmt noch anders

Zu 2):
Delphi-Quellcode:
unit Unit2;

interface

uses
   System.Classes,
   Vcl.Forms, Vcl.StdCtrls, Vcl.Controls,
   Xml.XmlIntf;

type
   TForm2 = class(TForm)
      Memo1: TMemo;
      Button1: TButton;
      Button2: TButton;

      procedure Button1Click(Sender: TObject);
      procedure Button2Click(Sender: TObject);

      protected var
         myXmlDocument: IXMLDocument;
   end;

var
   Form2: TForm2;

implementation uses Xml.XmlDoc;

{$R *.dfm}

procedure TForm2.Button1Click(Sender: TObject);
begin
   myXmlDocument := LoadXMLDocument('http://www.dragonlords.info/dev/big.xml');
end;

procedure TForm2.Button2Click(Sender: TObject);
begin
   Memo1.Lines.Assign(myXmlDocument.XML);
end;

end.

Das Einfügen in die Memo dauert ewig. Ich denke das liegt daran, dass deine 5MB-Datei nur aus einer einzigen Zeile besteht. Selbst Notepad++ bekommt hier Performance-Probleme. Das habe ich bei Notepad++ noch nie gesehen!

Spendier der XML doch Zeilenumbrüche.
  Mit Zitat antworten Zitat
Benutzerbild von himitsu
himitsu

Registriert seit: 11. Okt 2003
Ort: Elbflorenz
39.161 Beiträge
 
Delphi 10.4 Sydney
 
#5

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 12:22
ich muss das XML nicht im Browser darstellen, ich brauch das reine XML in einem TMemo. Das hab ich folgendermaßen gebaut:
Und warum nimmst du dann überhaupt einen Browser?

Delphi-Referenz durchsuchenTIdHTTP



Ich will zur Pizzabude gegenüber und statt den Roller nehm ich lieber einen 70-Tonner, mit großer Ladefläsche für die Pizza.
Garbage Collector ... Delphianer erzeugen keinen Müll, also brauchen sie auch keinen Müllsucher.
Delphi-Tage 2005-2014
  Mit Zitat antworten Zitat
Mike_on_Tour

Registriert seit: 16. Aug 2007
195 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#6

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 12:27
Hallo,

ich musste gerade etwas schmunzeln, als ich die Überschrift gelesen habe. Ich kämpf(t)e auch mit den XML-Dateien und bin schon mehrfach an 3 GB Hauptspeicherverbrauch 'gestorben'. Wir verwenden teilweise eigene XML-Routinen, teilweise abgeleitet von ThaXML und teilweise abgeleitet von XMLParser (von Stefan Heymann). Nach ein paar Korrekturen im Sourcecode liegt der Speicherverbrauch unterhalb von 2 GB.

Mein Programm:
- erzeugt 4 bis 5 XML-Dateien mit jeweils über 780.000 Zeilen (mit Zeilenumbrüchen !)
- jede XML-Datei hat eine Größe von ca. 65 MB
- das erzeugen einer XML-Datei dauert zur Zeit etwa 40 Minuten (alles im Hauptspeicher)
- jede XML-Datei in eine Textdatei konvertieren
- die Textdatei hat eine Größe von ca. 5 MB
- das erstellen der Textdatei dauert ca. 8 Minuten

Die Anzeige einer XML-Datei habe ich mit VirtualTreeView (von Mike Lischke) realisiert. Das Lesen einer XML-Datei dauert hier ca. 15 Sekunden.

Zum Vergleich: das Lesen einer XML-Datei mit Notepad++ dauert ca. 30 Sekunden.

Mike
Programmieren ist wie das Wandeln auf dem schmalen Pfad zwischen Wahnsinn und Intelligenz.

Geändert von Mike_on_Tour (15. Okt 2014 um 12:41 Uhr)
  Mit Zitat antworten Zitat
Benutzerbild von Sherlock
Sherlock

Registriert seit: 10. Jan 2006
Ort: Offenbach
3.566 Beiträge
 
Delphi 10.4 Sydney
 
#7

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 12:41
Das sind absurde Zahlen! XML ist doch nix anderes als "gepimpter" Text. Wer braucht da 40 Minuten zum erzeugen so einer popligen Datei? Bisher habe ich die XML-Komponentenumschifft und hab meine XML naiv händisch aufgebaut (jedes Tag ist eine eigene Methode, die für den wohlgeformten Ausdruck sorgt), ich komme in ähnliche Größenordnungen, dürfte mir aber keine 40 Minuten zum Aufbau erlauben.

Sherlock
Geändert von Sherlock (Morgen um 16:78 Uhr) Grund: Weil ich es kann
  Mit Zitat antworten Zitat
Der schöne Günther

Registriert seit: 6. Mär 2013
5.866 Beiträge
 
Delphi 10 Seattle Enterprise
 
#8

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 12:44
Ich will zur Pizzabude gegenüber und statt den Roller nehm ich lieber einen 70-Tonner, mit großer Ladefläsche für die Pizza.
Think Big.
  Mit Zitat antworten Zitat
mjustin

Registriert seit: 14. Apr 2008
2.848 Beiträge
 
Delphi 2009 Professional
 
#9

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 12:49

Wie kann man denn solche großen XML files untersuchen ohne den RAM Bedarf der eigenen Anwendung auf Gigabytegröße anwachsen zu lassen ?
Bei großen XML Dateen kann man Libraries mit einer "Streaming API" verwenden. Diese laden das Dokument nicht als DOM sondern liefern einen Stream von Elementen und Attributen, auf die man dann in Handlern reagieren kann (zum Beispiel Werte auslesen und summieren, oder nur die interessanten Wertte in eine eigene Struktur kopieren).

Für Delphi gibt es einige Implementierungen - MSXML und das recht neue aber laut Angaben performante OXML sind zwei Beispiele.
Michael Justin
habarisoft.com
  Mit Zitat antworten Zitat
Mike_on_Tour

Registriert seit: 16. Aug 2007
195 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#10

AW: Ungeheure Speichernutzung des TWebrowsers beim Laden einer XML

  Alt 15. Okt 2014, 13:00
Das sind absurde Zahlen! ... Wer braucht da 40 Minuten zum erzeugen so einer popligen Datei? ... dürfte mir aber keine 40 Minuten zum Aufbau erlauben.
Ich habe mit Absicht weggelassen, was alles im Programm abläuft und woher die Daten kommen. Ich kann aber versichern, dass der Ablauf so schon seine Ordnung hat. Hätte ich eine bessere Lösung gehabt, wäre sie auch umgesetzt worden. Übrigens, dem Anwender dürften die ca. 4 Stunden "Aufwand" (5 x 40 Minuten + 5 x 8 Minuten) immer noch besser gefallen, als wie ca. 15000 Seiten zu drucken und zu sortieren.

Mike
Programmieren ist wie das Wandeln auf dem schmalen Pfad zwischen Wahnsinn und Intelligenz.
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 1 von 2  1 2   

Themen-Optionen Thema durchsuchen
Thema durchsuchen:

Erweiterte Suche
Ansicht

Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 05:54 Uhr.
Powered by vBulletin® Copyright ©2000 - 2022, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2021 by Daniel R. Wolf