Kaputte Datei ohne Encoding mit Umlauten in StringList laden+Zeichen erhalten

[DieDolly]

Spoiler: die Daten wären verloren

Ich komme bei einem Problem nicht weiter. Ich lade mit TFile und TEncoding.UTF8 eine Datei in eine StringList. Ich möchte es jedenfalls.

Aber meine Datei scheint kaputt zu sein.
Die Datei ist laut Notepad++ ohne Encoding. Laut Sublime Western (Windows 1252).

Die Datei hat vor dem Speichern den Inhalt

Zitat:

Ä ʘ Ü

und hat laut Notepad++ wie gesagt danach kein Encoding. Sublime ließt die Datei als

Zitat:

Ä ? Ü

ein.
Ich habe vorerst eine Behandlung eingebaut die auf TEncoding.Default zurückgreift, wenn das Laden in meiner eigenen TFile mit UTF8 fehlschlägt. So bekomme ich ebenfalls das Sublime Ergebnis.

Kann man das schöner behandeln?

Delphi-Quellcode:

 try
  Result := TFile.ReadAllText(Path, TEncoding.UTF8);
 except
  Result := TFile.ReadAllText(Path, TEncoding.Default);
 end;

[peterbelow]

Wenn die Datei Utf-8 ist, aber halt keine BOM hat, versuch mal eine Instanz dieses encodings:

Delphi-Quellcode:

type
  {!
  <summary>
   UTF8 encoding class without BOM, can be used to write files in
   UTF8 encoding without a BOM, e.g. XML or XHTML files.
  </summary>}
  TNoBomUTF8Encoding = class(TUTF8Encoding)
  public
    {!
    <summary>
     Return a zero-elements array to use as a BOM.
    </summary>}
    function GetPreamble: System.TArray<System.Byte>; override;
  end;

function TNoBomUTF8Encoding.GetPreamble: System.TArray<System.Byte>;
begin
  SetLength(Result,0);
end;

[DieDolly]

Die Datei ist nicht UTF-8. Sie ist Western Windows 1252.

[Schokohase]

Zitat von DieDolly:

Die Datei ist nicht UTF-8. Sie ist Western Windows 1252.

Hier wäre eine Klarstellung notwendig.

Im ersten Post schreibst du, dass

Zitat von DieDolly:

Die Datei ist laut Notepad++ ohne Encoding. Laut Sublime Western (Windows 1252).

Welches Encoding für diese Text-Datei verwendet wurde kann (ohne BOM) nur der Ersteller der Text-Datei zuverlässig mitteilen, alles andere ist reine Spekulation oder basiert auf Vermutungen/Annahmen.

Also: Ist deine Angabe zum Encoding nun eine gesicherte Information vom Ersteller der Datei oder eben diese geschätzte Annahme von Sublime (der trotz dieser Annahme die Datei nicht richtig darstellen kann).

BTW: Jede Textdatei hat ein Encoding. Ohne Encoding ist es keine Textdatei, sondern nur ein Haufen Bytes. Wenn Notepad++ kein Encoding angibt, dann heißt das nicht, es gibt dort kein Encoding, sondern die verwendeten Prüfverfahren von Notepad++ konnten kein Encoding aus der Datei herauslesen.

[DieDolly]

Leider weiß ich nicht wie diese Datei erzeugt wurde.
Ich habe nur noch ein seltenes Exemplar davon auf meinem Computer.

Zitat:

Also: Ist deine Angabe zum Encoding nun eine gesicherte Information vom Ersteller der Datei oder eben diese geschätzte Angabe von Sublime (der trotz dieser Annahme die Datei nicht richtig darstellen kann).

Das ist von Sublime. Ich glaube nicht, dass das Unicodezeichen überhaupt noch in der Datei existiert. Das Encoding fehlt schließlich.

Soll ich die Datei mal hier hochladen? Sie ist 5 Bytes groß (3 Zeichen, 2 Leerstellen), offensichtlich kein Multibyte.

[Schokohase]

Die brauchst du nicht hochladen, sondern diese 5 Bytes kannst du auch als Hex-Zeichenfolge hier direkt posten.

Gibt es einen Hinweis, was für eine Information diese 5 Bytes beinhalten sollen? Denn bei 5 Zeichen (effektiv 3) ist der Informationsgehalt für Text doch recht dürftig

[Uwe Raabe]

Das 3F- Fragezeichen entsteht aber wohl schon weiter hinten in der Kette, denn

Zitat von DieDolly:

Die Datei hat vor dem Speichern den Inhalt

Zitat:

Ä ʘ Ü

[DieDolly]

Genau und wenn ich die Datei mit UTF8 Encoding laden möchte knallt es. Deswegen try-except und im except dann TEncoding.Default.

Erst gucke ich ob ein BOM vorhanden ist. Wenn nicht prüfe ich jedes Zeichen der Datei (Stream) ob es über #127 hinaus geht. Wenn ja, sind zumindest Zeichen außerhalb der 8 bit vorhanden.
Dann versuche ich mit UTF8 Encoding die Datei zu laden was auch bei vernünftigen Dateien funktioniert. Knallt es dann im Except kommt Default zum Einsatz.

[Gausi]

Zitat von DieDolly:

Wenn nicht prüfe ich jedes Zeichen der Datei (Stream) ob es über #127 hinaus geht. Wenn ja, sind zumindest Zeichen außerhalb der 8 bit vorhanden.

Mit dem Test auf #127 erreichst du aber nur 7 Bit. D.h. wenn du eine "Ansi-kodierte" Datei hast (oder Windows 1252, oder eine andere 1-Byte-Kodierung), und du hast Umlaute drin, dann schlägt das schon fehl - denn die sind jenseits von #127. Wenn du dann mit UTF8 dran gehst, dann dürfte es regelmäßig knallen, würde ich vermuten. Oder es kommt zumindest anderweitig Unsinn raus.

[Uwe Raabe]

Du könntest die Überprüfung noch etwas verfeinern, in dem du auf eine gültige UTF-8 Kodierung prüfst:

1. Ist das höchste Bit 0, ist es ein ASCII-Zeichen (entspricht deinem Test)
2. Sind die höchsten drei Bit eine 110, dann kommt als nächstes ein Folgebyte
3. Sind die höchsten vier Bit eine 1110, dann kommen als nächstes zwei Folgebyte
4. Sind die höchsten fünf Bit eine 11110, dann kommen als nächstes drei Folgebyte
5. Ein Folgebyte hat als höchste zwei Bit eine 10