Dateien in einem Ordner rekursiv in parallelem Task zählen

[PeterPanino]

Hallo!

Ich habe mir eine Routine geschrieben, die rekursiv die in einem Ordner enthaltenen Dateien in einem parallelen Task zählt:

Delphi-Quellcode:

uses
  System.Threading;

procedure TForm1.CountFilesTask(const ADir: string);
var
  ThisTask: ITask;
begin
  ThisTask := TTask.Create(
    procedure()
    var
      count: Integer;

      procedure FileSearch(const ThisDir: string);
      var
        SR: TSearchRec;
      begin
        if FindFirst(IncludeTrailingPathDelimiter(ThisDir) + '*', faAnyFile, SR) = 0 then
        begin
          try
            repeat
              if (SR.Attr and faDirectory) = 0 then
              begin
                Inc(Count);
                TThread.Synchronize(nil,
                  procedure
                  begin
                    lblShowFilesCount.Caption := IntToStr(count) + ' files';
                  end);
              end
              else if (SR.Name <> '.') and (SR.Name <> '..') then
              begin
                FileSearch(IncludeTrailingPathDelimiter(ThisDir) + SR.Name);
              end;
            until FindNext(SR) <> 0;
          finally
            FindClose(SR);
          end;
        end;
      end;

    begin
      CodeSite.Send('VOR Suche');
      FileSearch(ADir);
      CodeSite.Send('NACH Suche');
    end);
  ThisTask.Start;
end;

procedure TForm1.btnStartCountClick(Sender: TObject);
begin
  CountFilesTask(Trim(edtDirectory.Text));
end;

Was haltet ihr davon? Könnte man das noch weiter optimieren?

[himitsu]

Bei jeder einzelnen Datei ein TThread.Synchronize ... da kann man das alles auch gleich im Hauptthread belassen, so oft wie der Code dort vorbeikommt. :stupid:

TDirectory.GetFiles (das mit einem Callback)

[p80286]

Oder man sendet eine Message. da nur ein Integer übergeben wird, würde sich das auch noch anbieten.

Gruß
K-H

[himitsu]

Für jede Datei eine Message .... quasi die selbe Ausführungsdauer


Man kann z.B. Verzeichnisweise sammeln, oder per GetTickCount nur alle nach jeweils frühestens x Sekunden/Millisekunden oder InterlockedIncrement / AtomicIncrement im Hintergrund zählen und über einen Timer alle x Sekunden anzeigen oder ....

z.B.:

Delphi-Quellcode:

Counter := 0;
for i := 0 to 10000 do begin
  Inc(Counter);
  Label1.Caption := IntToStr(Counter);
  Application.ProcessMessage;
end;

Delphi-Quellcode:

Counter := 0;
for i := 0 to 10000 do begin
  Inc(Counter);
  if i mot 1000 then begin
    Label1.Caption := IntToStr(Counter);
    Application.ProcessMessage;
  end;
end;

[Mavarik]

TThread.Queue für die Ausgabe & die Timer Idee

Und natürlich nicht nur einen Task nehmen...
Sondern direkt mal für jedes Unterverzeichnis einen
Und wenn Du schon durch läuft dann optional die Dateinamen in Listen speichern..
Oder eine Bestimmte Datei in allen Unterverzeichnissen suchen...

Am besten eine Factory mit übergeben, was im Dir gemacht werden soll...

Mavarik

[himitsu]

Bei einer "meschanischen" Festplatte wird es mittels mehrerer Threads nur langsamer. :stupid:

[Mavarik]

Zitat:

Zitat von himitsu (Beitrag 1294530)

Bei einer "meschanischen" Festplatte wird es mittels mehrerer Threads nur langsamer. :stupid:

Willkommen in der Steinzeit!

Abgesehen davon NEIN! Das kannst Du nicht so pauschal sagen... Nur wenn der Kopf wild über die Platte Seeken muss...

Wenn aber z.B. 5 Dir's auf der gleichen Spur sind, kann Windows mit einer Festplattenumdrehung parallel lesen...

ggf. ist das Dir auch im Cache!

[himitsu]

Die Chanche, daß zur selben Zeit die Verzeichnisse auf der selben Spur liegen, ist extrem gering.
Dazumal sind auch "größere" Verzeichnisse schnell mal fragmentiert und liegen dann nichtmal selber auf einer Spur.

Auch SSDs sind nicht unbedingt schneller, wenn man parallel arbeitet, gegenüber der sequentiellen Bearbeitung.
Wenn man noch etwas beim Auslesen/Suchen machen würde, das in jedem Thread zusätzlich parallel läuft, aber natürlich nur in CPU/RAM, dann kann man schon was mit Threads machen.


Am Schnellsten ginge es z.B. direkt über die MFT (NTFS).

[p80286]

Zitat:

Zitat von himitsu (Beitrag 1294528)

Für jede Datei eine Message .... quasi die selbe Ausführungsdauer

wer macht den sowas

Delphi-Quellcode:

if cnt and $0F = 0 then ....

und wenn man durch ist, auch noch eine Message mit dem Endstand.

Was die Performance angeht, mal ist's schneller, mal langsamer (Harddisk und NetzLaufwerke).
Die Aufteilung bringt auf jeden Fall etwas (nach meinen Erfahrungen) wenn man parallel auf phys. unterschiedliche Laufwerke zugreift.

Gruß
K-H

[PeterPanino]

Getestet: Wenn ich das Synchronize raus nehme, ist meine Routine bei 2 Millionen Dateien um über 20% schneller als TDirectory.GetFiles. (Cachung berücksichtigt, Durchschnittswert bei mehreren Suchen): 2 Millionen Dateien in 33 Sekunden.