AGB  ·  Datenschutz  ·  Impressum  







Anmelden
Nützliche Links
Registrieren
Thema durchsuchen
Ansicht
Themen-Optionen

Wie verwalte ich so viele Daten?

Ein Thema von Neutral General · begonnen am 30. Apr 2008 · letzter Beitrag vom 2. Mai 2008
Antwort Antwort
Seite 1 von 3  1 23      
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#1

Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 16:39
Hi,

Ich würde gerne eine Datei nach 4-Byte-Folgen durchsuchen und diese Zählen. Also z.B. wie oft kommt

$25$75$DA$2F

in Datei.xyz vor. Nur das ich nicht nur 1 4-Byte-Folge zählen will, sondern alle von $00000000 bis $FFFFFFFF...

Also bräuchte ich theretisch sowas wie:
Zaehlarray: Array[0..High(Cardinal)] of Word; Aber das sprengt ja alle Rahmen...

Wie mache ich sowas am besten?

Gruß
Neutral General
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
Medium

Registriert seit: 23. Jan 2008
3.679 Beiträge
 
Delphi 2007 Enterprise
 
#2

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 16:43
Ein Großteil wird ja garnicht vorkommen. Also nimm statt eines Arrays eine Liste, und füge jede Folge die du neu findest in diese ein. Findest du diese öfter, dann einen Zähler jeweils mit erhöhen.
"When one person suffers from a delusion, it is called insanity. When a million people suffer from a delusion, it is called religion." (Richard Dawkins)
  Mit Zitat antworten Zitat
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#3

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 16:46
Ja dachte ich mir auch schon aber das nachgucken, ob eine Folge schon in der Liste ist, dass dauert ja auch ne Weile... Wird das nicht irgendwann zu aufwendig (CPU)?
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge
 
#4

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 16:53
Hallo,

wenn die Liste sortiert ist, dann kannst du mittels binärer Suche sehr effizient zugreifen.

Übrigens hat ein Word nur zwei Byte ...

Grüße vom marabu
  Mit Zitat antworten Zitat
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#5

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 17:05
Zitat von marabu:
Hallo,

wenn die Liste sortiert ist, dann kannst du mittels binärer Suche sehr effizient zugreifen.

Übrigens hat ein Word nur zwei Byte ...

Grüße vom marabu
Zu der binären Suche müsste ich mich mal informieren... Das ein Word 2 Byte groß ist, wusste ich.

Das ganze sollte ja ungefähr so laufen (theorie)
Delphi-Quellcode:
var Arr: Array[0..High(Cardinal)] of Word;
    buf: Cardinal;
begin
stream.LoadFromFile(datei);
stream.Read(buf,4);
inc(Arr[buf]);
Gruß
Neutral General
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
Apollonius

Registriert seit: 16. Apr 2007
2.325 Beiträge
 
Turbo Delphi für Win32
 
#6

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 17:12
Wenn du das nicht mit MMFs machst, bist du verloren.
Wer erweist der Welt einen Dienst und findet ein gutes Synonym für "Pointer"?
"An interface pointer is a pointer to a pointer. This pointer points to an array of pointers, each of which points to an interface function."
  Mit Zitat antworten Zitat
Benutzerbild von Neutral General
Neutral General

Registriert seit: 16. Jan 2004
Ort: Bendorf
5.219 Beiträge
 
Delphi 10.2 Tokyo Professional
 
#7

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 17:16
Und was sind MMFs ? Mapped Files?

Und wenn ja - wie benutze ich die?
Michael
"Programmers talk about software development on weekends, vacations, and over meals not because they lack imagination,
but because their imagination reveals worlds that others cannot see."
  Mit Zitat antworten Zitat
Benutzerbild von Die Muhkuh
Die Muhkuh

Registriert seit: 21. Aug 2003
7.332 Beiträge
 
Delphi 2009 Professional
 
#8

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 17:28
Hier im Forum suchenMemory Mapped Files
  Mit Zitat antworten Zitat
marabu

Registriert seit: 6. Apr 2005
10.109 Beiträge
 
#9

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 18:50
Hi Michael,

mit zwei Byte zählst du nur bis 64K - das könnte in einigen Fällen zu wenig sein.

Dein statisches Array würde in jedem Fall 2^34 Byte (16GB) belegen. Mit einem entsprechenden Server unter 64bit Windows kein Problem - ich beneide dich um deine HW Austattung.

Nimm eine TList und erweitere sie um die binäre Suche - besser ist dass.

Freundliche Grüße
  Mit Zitat antworten Zitat
alzaimar
(Moderator)

Registriert seit: 6. Mai 2005
Ort: Berlin
4.956 Beiträge
 
Delphi 2007 Enterprise
 
#10

Re: Wie verwalte ich so viele Daten?

  Alt 30. Apr 2008, 19:06
Ich würde sogar noch weiter gehen, und eine Hashmap verwenden. Hier ist eine.

Eine binäre Suche dauert doch etwas, wenn auch nicht viel, aber der Suchaufwand nimmt mit der Größe der Liste doch zu. Das passiert bei einer Hashmap nicht. Die Hashmap wächst dynamisch.

Bei der o.g. Hashmap (TIntegerDictionary) wird zu jedem 4-Byte Schlüssel eine Nutzerinformation (Pointer) gespeichert. So würde die Zählfunktion aussehen:
Delphi-Quellcode:
Procedure Count (aDict : TIntegerDictionary; aCardinal : TCardinal);
Var
  cnt : PInteger;

Begin
  If aDict.Find (aCardinal, Cnt) Then // Wenn schon in der dictionary
    Cnt^ := Cnt^ + 1 // ... Zähler erhöhen
  Else Begin
    new (Cnt); // Ansonsten neuen Zähler anlegen
    Cnt^:= 1; // Initalisieren
    aDict.Add (aCardinal, Cnt); // und ab in die dictionary
  End
End;
Das geht -wie schon erwähnt- sehr schnell, schneller gehts eigentlich nicht (ok, eine Skiplistei ist marginal schneller, wenn sie nicht zu groß wird).

Klitzekleiner Pferdefuß: Die Ergebnisse sind unsortiert, du musst sie am Schluss auslesen, in eine Liste packen und diese dann sortieren, aber das hättest Du bei einer Liste ja auch.
"Wenn ist das Nunstruck git und Slotermeyer? Ja! Beiherhund das Oder die Flipperwaldt gersput!"
(Monty Python "Joke Warefare")
  Mit Zitat antworten Zitat
Antwort Antwort
Seite 1 von 3  1 23      


Forumregeln

Es ist dir nicht erlaubt, neue Themen zu verfassen.
Es ist dir nicht erlaubt, auf Beiträge zu antworten.
Es ist dir nicht erlaubt, Anhänge hochzuladen.
Es ist dir nicht erlaubt, deine Beiträge zu bearbeiten.

BB-Code ist an.
Smileys sind an.
[IMG] Code ist an.
HTML-Code ist aus.
Trackbacks are an
Pingbacks are an
Refbacks are aus

Gehe zu:

Impressum · AGB · Datenschutz · Nach oben
Alle Zeitangaben in WEZ +1. Es ist jetzt 20:53 Uhr.
Powered by vBulletin® Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
LinkBacks Enabled by vBSEO © 2011, Crawlability, Inc.
Delphi-PRAXiS (c) 2002 - 2023 by Daniel R. Wolf, 2024 by Thomas Breitkreuz