Limitierte Dateigröße mit SingleFileDataStorage?

[shadowman]

Zitat von hathor:

HTFS oder FAT32?
HTFS zwingend erforderlich, ersatzweise auch exFAT.

Ist zuerst beim Kunden aufgefallen und da dachte ich als erstes auch an FAT32, war aber NTFS und bei mir (aucn NTFS) kann ich es ebenfalls reproduzieren. Also "leider" liegts nicht daran.

Zitat von himitsu:

Sind die 4 GB auf die Gesamtdatei bezogen, oder auf eine der Dateien darin?

Bei Gesamtdatei sah es so aus, als wenn es eine Exception geben müsste, wenn man an die Grenzen des Dateisystem (z.B. FAT32) stößt.
(kann aber sein, daß ich auf die Schnelle nicht alle Dateizugriffe gesehn hab.)

Ist bereits bei der Gesamtdatei so, die aus vielen kleineren Dateien entsteht. Da das Dateisystem aber NTFS ist, dürfte es keine (oder sehr hohe) Limits geben.

Zitat von himitsu:

Und welche Delphi-Verison?
Im Code wird zwar an vielen Stellen mit AnsiString gearbeitet, aber bei 2007 kann man nicht sicher sein, ob es da nicht doch noch ein paar Bugs gibt.
Was gibt denn der Compiler für Meldungen aus?

Ich setze es unter Delphi XE ein (und dort dann die Version, in der ich die Anpassungen an Unicode vorzunehmen versucht habe (schien / scheint zu funktionieren), aber wenn diese Umstellung bei der Dateigrößenproblematik auch eine Rolle spielt, dann habe ich vielleicht was übersehen... Habe nicht erwartet, dass das eine Rolle spielen könnte.

Ich habe auch eine Delphi 7 Installation da, könnte es damit mal probieren. Da ist die unveränderte Version installiert.

Bin jetzt gerade dabei, mich schrittweise an die Größe heranzutasten, ab der die Datei als ungültig erkannt wird.

Zitat von himitsu:

[edit]
Vielleicht ist ja hier was Alternatives dabei.
http://17slon.com/gp/gp/gpstructuredstorage.htm
http://msdn.microsoft.com/en-us/libr...69(VS.85).aspx
http://www.delphipraxis.net/176827-v...wendungen.html

Danke, werde ich mir anschauen. Hatte schon mal nach Alternativen geguckt, aber kaum etwas gefunden bzw. aufgrund der größeren Umstellung erstmal nicht weiter verfolgt. "gpstructuredstorage" war damals schon mal dabei, denke ich.

[hathor]

Ich habe mal eine mitgelieferte Demo Basic SFDS File Creator getestet.
Ergebnis: Eine Größe von 3,9 GB wird bei mir nicht überschritten, obwohl mehr Daten drin sein müssten. Siehe Anhang:

[shadowman]

Hm, wie viel mehr müsste drin sein? Vielleicht die Komprimierung? Sonst würde das ja bedeuten, dass das Tool ab einem bestimmten Wert einfach aufhört die Datei zu schreiben und sie dann selbst als ungültig einstuft... Ich habe hier eine Datei mit der Größe von 4,00 GB (4.298.860.637 Bytes) (erstellt mit meinem Programm, sollte aber die gleiche Funktionalität sein)

[himitsu]

Das Ding greift stückchenweise, über einen selbstgebauten Stream, auf die SFDS-Datei zu.

Vermutung: Dort wird irgendwo mit einem "Integer" gearbeitet und größere Positionen werden daher auf 32 Bit abgeschnitten.

[hathor]

Zitat von shadowman:

hm, wie viel mehr müsste drin sein? Vielleicht die komprimierung? Sonst würde das ja bedeuten, dass das tool ab einem bestimmten wert einfach aufhört die datei zu schreiben und sie dann selbst als ungültig einstuft... Ich habe hier eine datei mit der größe von 4,00 gb (4.298.860.637 bytes) (erstellt mit meinem programm, sollte aber die gleiche funktionalität sein)

4,04 GB (4.338.868.224 Bytes)

[hathor]

Suche Dir ein anderes Programm aus:
http://en.wikipedia.org/wiki/Compari...file_archivers

Ich würde 7-Zip nehmen:
http://en.wikipedia.org/wiki/7-Zip

[hathor]

Ich habe mal 7-Zip getestet - Free Demo von hier:
http://www.rg-software.de/files/SevenZipVCL_076.zip

Macht einen guten Eindruck.
Getestet mit WIN8.0 und XE2.
NICHT vegessen: 7za.dll in das WINDOWS-Verzeichnis kopieren!
Ist im Anhang.

Zitat:
You will also need the 7za.dll from sourceforge !! Ist im Anhang !!
The dll is in the extra.tar.bz2 package.
Dll version 4.42 is included in the package.
New 0.71: Multivolume support, password support.
New 0.72: Fixed 4GB limit, some other bugs

[shadowman]

Danke für die Vorschläge,

das mit 7-Zip hatte ich bisher nicht auf dem Radar. Generell ist es gut Alternativen zu haben, wobei ich eine Umstellung möglichst vermeiden würde. Das Ganze wird für die Datensicherung / Datenwiederherstellung eingesetzt...

Deswegen habe ich zumindest vorerst nach der Ursache gesucht.

Das Seltsame ist, dass eine Datei mit ca. 8 GB erstellt und auch gelesen werden kann. Es wurden testweise 1GB-Dateien erstellt, die einfach mit Nullen gefüllt sind. Damit kommt der Basic SFDS File Creator klar, so wie es aussieht.

Dann habe ich weiter getestet und mir eine ca. 70 MB große Datei geschnappt, die mehrfach kopiert, bis das Ergebnis bei über 4 GB lag. Ich habe also den Fall, dass wenn ich eine Kopie lösche, die Sicherung klappt, wenn ich sie wieder hinzufüge, ist das Ergebnis fehlerhaft.

Die Dateieinträge kommen ganz am Ende der erstellten Datei. Bei der korrupten Datei sucht sie der Reader anhand der gespeicherten Position an einer Stelle, an der es sie noch nicht gibt, sprich viel zu früh, so dass der Write sich in so einem Fall verhauen und dabei eine Fehlerhafte Position für die Dateieinträge speichern müsste. Also habe ich erstmal beim Write geschaut.

Geschrieben werden die Einträge in TSFDSCustomWriter.WriteFileEx. In einer Schleife wird die jeweilige Datei in Chunks (ChunkSize in Höhe von 32KB wird dabei verwendet) geschrieben. Bei einer 70MB Datei sind es ziemlich viele Durchläufe, also habe ich mir da die einzelnen Schritte / Werte ausgeben lassen, um die Stelle zu finden, an der es einen Unterschied.

Die letzte Datei der funktionierenden Sicherung bzw. die vorletzte Datei der korrupten Sicherung sind soweit identisch von den Werten her, hier am Beispiel des Schleifendurchlaufs Nr. 146:

Code:

-------------------------------------------------------------
Durchlauf Nr. 146
-------------------------------------------------------------
BytesCopied: 32768
K: 4784128
SourceStream.Size:       4294950087
SourceStream.Position:    4294950087
Write(CopyBuffer^, BytesCopied)...
SourceStream.Size:       4295081159
SourceStream.Position:    4295081159

Nach dem Aufruf von "Write" sind die 4GB schon überschritten, aber es funktioniert noch. "SourceStream.Size" ist dabei immer gleich "SourceStream.Position" - sowohl vor "Write" als auch danach. Im Schleifendurchlauf Nr. 147 der korrupten Sicherung, also mit einer weiteren 70 MB Datei, sieht man dann eine Abweichung:

Code:

-------------------------------------------------------------
Durchlauf Nr. 147
-------------------------------------------------------------
BytesCopied: 32768
K: 4816896
SourceStream.Size:       4295081159
SourceStream.Position:    4295081159
Write(CopyBuffer^, BytesCopied)...
   -> result := Compressor.Write(Buffer, Count);
      -> SourceStream.Size:       4295081159
      -> SourceStream.Position:    113863 <-------------
      FileSize vorher:    4784128
      result:               32768
      FileSize nachher: 4816896

In "Write(CopyBuffer^, BytesCopied)" wird nach der Zeile "result := Compressor.Write(Buffer, Count);" SourceStream.Position plötzlich zurückgesetzt auf einen viel kleineren Wert, was nach dem oben beschriebenen Problem aussieht. Nur weiß ich nicht so richtig, wieso das passiert...