AI superpower - ich kanns nicht mehr hören

[Delphi.Narium]

Zitat von TigerLilly:

Zitat:

Je genauer ich weiß, was ich wissen will (und das in der Fragestellung formuliere), um so größer ist die Wahrscheinlichkeit, dass ich eine verwertbare Antwort erhalte.

Jein. Ja, wenn es dazu Trainingsmaterial gegeben hat + das LLM dazu trainiert wurde. Nein, wenn das Trainingsmaterial dazu "dünn" war (oder dünn gehalten wurde).

Gutes Beispiel: Wenn ich ChatGPT auffordere, einen Lebenslauf von mir zu erstellen und Infos zu mir vorgebe, damit klar ist, wer ich bin, dann ist das wohl maximal eingegrenzt. Das Ergebnis ist zu 90% korrekt, aber manche Sachen sind einfach frei erfunden:

Studium der Informatik, Technische Universität Wien - Ja, stimmt
Abschluss: Diplomingenieur (Dipl.-Ing.) - Nein, falsch.

Teach-IT GmbH (2001–2005) - Ja, stimmt.

Position: Geschäftsführender Gesellschafter - Ja, stimmt.
Tätigkeit: Didaktische und technische Entwicklung von E-Learning-Systemen - völlig falsch.

IT-Kenntnisse
Programmiersprachen: Delphi (Object Pascal), SQL, HTML - richtig
Datenbanken: Firebird, MySQL - richtig
Betriebssysteme: Windows, Linux - Linux? Never!
Tools: Git, Jira, Projektmanagement-Software - Jira? Never.

Dabei kann ich mir gut vorstellen, dass ein Recruiter oder wer aus HR, sich auf diese Daten verlässt.

Eine AI kann man nur für die Verarbeitung von Wissen nutzen, das allgemein verfügbar ist. Das dürfte bei einem Lebenslauf für eine einzelne Person wohl kaum zutreffen. Bei einer bekannten Persönlichkeit mag das anders sein, aber sicherlich nicht für jedes beliebige menschliche Wesen auf diesem Planeten.
Hier schlägt dann die Wahrscheinlichkeit zu: Es wird geschaut, wie so ein Lebenslauf aussehen könnte, es werden also Analogien zu den Vorgaben gesucht und dann im Ergebnis die Infos zusammengetragen, die mit hoher Wahrscheinlichkeit zu den Vorgaben passen könnten.
Vermutlich können viele Personen, deren Lebensläufe Deinem ähneln, halt eben auch mit Linux und Jira umgehen. Damit weißt Du nun, wo Deine "Wissenslücken" sind, mit deren Schließung Du Deine Chancen am Arbeitsmarkt erhöhen kannst
Und wer an 'ner Technische Universität studiert ist doch nachher Dipl.-Ing., das weiß doch jeder

Hier schlägt also sichtbar zu:

Zitat von ChatGPT:

Sprachmodelle optimieren auf „Plausibilität“, nicht auf Wahrheit.

Ich bin darauf trainiert, das *Plausibelste* zu sagen – nicht zwingend das *Wahrste*.

Ok: Informatikstudium mit Abschluss Dipl.-Ing. ist vielleicht jetzt doch nicht so plausibel, da hätt' ich eher 'nen Dipl.-Inf. erwartet, aber man weiß ja nie

Wenn ich einen Lebenslauf von mir haben will, kann ich nicht mit einem vernünftigen Ergebnis rechnen, genauso wenig, wie mit einer präzisen Wettervorhersage für heute in drei Jahren

Bei präzisen Wissensabfragen auf bekanntes Wissen kann ich mit recht plausiblen Antworten rechnen. Bei allem Anderen muss ich mit plausibel klingendem Spekulatius rechnen

[Phoenix]

Zitat von Delphi.Narium:

Eine AI kann man nur für die Verarbeitung von Wissen nutzen, das allgemein verfügbar ist.

Das ist das größte Missverständnis, dem ich leider noch viel zu oft begegne. NEIN! Das ist grundlegend Falsch.

Man darf sich grundsätzlich NIE auf das "Weltwissen" von LLMs berufen. Das ist lediglich statistischer Einheitsbrei aus allen Trainingsdaten. Das führt maximal zu wahrscheinlichen, aber nicht korrekten Ausgaben - und genau das ist der Grund für Halluzinationen wenn man das tatsächlich fälschlicherweise doch mal versucht.

Wenn man einem LLM eine Aufgabe gibt, muss man grundsätzlich immer alles notwendige Wissen dazu mit in den Kontext geben.
Das nennt sich Grounding, und das kann man manuell machen, dem LLM mittels Tools Zugriff auf diese Informationen geben oder per RAG (Retrieval Augmented Generation) die Informationen basierend auf der Anfrage automatisch ermitteln und vor der Abfrage in den Kontext schreiben.

Der Lebenslauf ist da jetzt ein relativ unspektakuläres Beispiel, aber bleiben wir dabei: Man kann hier z.B. alle Infos zusammenhangslos in den Kontext werfen, z.B. auch Scans von Urkunden oder Zeugnissen sowie Projektberichte etc. reinwerfen, und das LLM nach einem selber Googlen lassen - und dann, mit den ganzen Infos im Kontext, kann es aus den nun 100% sicher richtigen Fakten im Kontext auch einen korrekten Lebenslauf formulieren.

Ein LLM ist wie ein sehr großer Raum voller Azubis - von ganz frischen bis fast fertigen und von eher nicht so hellen bis hin zu superschlauen - und die jeweils git durchmischt mit den jeweiligen Ausbildungsstufen. Das einzige was gegeben ist, ist, dass die alle so ziemlich jede Sprache fehlerfrei beherrschen. Eine Anfrage an ein LLM wird in den Raum geworfen, und man bekommt die Antwort unter der Tür durchgeschoben und hat keine Ahnung, wer von denen das jetzt abgearbeitet hat. Kurzum: Im Idealfall formuliert man seine Anfrage so, dass auch der eher nicht so schlaue Beginner damit zurecht kommen sollte - das bedeutet eben auch, alle notwendigen Infos vorneweg mit in die Aufgabe zu geben.

Um uns vor Halluzinationen zu schützen, schalten wir z.B. bei Business-Anwendungen noch ein zweites LLM dazu, dass nach der Antwort extra nochmal angewiesen wird zu prüfen, ob auch wirklich jede Info in der Antwort auch wirklich im Kontext vorgegeben war, oder ob in der Antwort auf einmal informationen stehen, die nicht in der Eingabe waren. Ist das der Fall, wird die Antwort als Halluzination verworfen. Selbst dann, wenn sie zufällig durch korrektes Weltwissen entstanden ist.

[Delphi.Narium]

@Phoenix

Du gehst bei Deiner Antwort davon aus, dass Du bereits über das vollständige Wissen verfügst und dieses der AI zu Verfügung stellen kannst und der AI sagen kannst, dass sie nur dieses und genau dieses Wissen verarbeiten soll.

Stellt man jedoch im Browser im Eingabefeld eine Frage, wird das in den Trainingsdaten vorhandenen Wissen genutzt, um daraus eine plausible Antwort zu erstellen. Hier kann man sich nicht auf die Richtigkeit verlassen.

Die überwiegende Anzahl der Nutzer von AIs wird aber (vermutlich) den Weg über den Browser nutzen und darauf hoffen, eine korrekte Antwort zu erhalten.

Wenn wir in dem von Dir zitierten Satz

Zitat von Delphi.Narium:

Eine AI kann man nur für die Verarbeitung von Wissen nutzen, das allgemein verfügbar ist.

das Wort allgemein streichen, stimmt die Aussage aber (nach meinem Verständnis) wieder.

Oder man könnte sie etwas erweitern:

Eine AI kann man nur für die Verarbeitung von Wissen nutzen, das allgemein verfügbar (in den Trainingsdaten vorhanden) ist und/oder vom Nutzer explizit zur Verfügung gestellt wird.

Passt das dann eher?