AI superpower - ich kanns nicht mehr hören

[jaenicke]

Ich habe auch schon komplexere Klassen und Programme oder Programmteile von ChatGPT schreiben lassen. Das funktioniert gut. Selbst ein Programm inkl. dfm für ein Formular mit Komponenten hat es korrekt erstellt. Man muss aber immer wieder in die richtige Richtung lenken und nicht alle "Ideen" von ChatGPT stellen sich als umsetzbar heraus.

Zum Beispiel habe ich mir ein Programm schreiben lassen, dass Dateinamen basierend auf Informationen aus dem Internet aktualisiert. ChatGPT hat dann eine bessere Datenquelle mit API vorgeschlagen statt HTML zu parsen, aber am Ende stellte sich heraus, dass es dort keine deutschen Daten gab. Aber am Ende kam ein komplettes Programm mit GUI heraus, bei dem man die Daten online sucht, die geparsten Ergebnisse darstellt, auswählt, eine Dateiauswahl bekommt, eine Vorschau der neuen Dateinamen und das Umbenennen starten kann. Das alles hat ChatGPT komplett fertig ausgespuckt.

Insgesamt habe ich so 20 Minuten gebraucht. Alleine hätte ich dafür vermutlich eher eine Stunde gebraucht.

Ich nutze allerdings nicht die kostenlosen Versionen sondern ChatGPT Plus und Perplexity Pro, so dass auch längere Läufe mit dem besseren Modell möglich sind.

[freimatz]

Zitat von Stevie:

Zitat von freimatz:

Hm "AI superpower" - "AI" kenne ich aber "AI superpower" noch nie gehört ...

Den Begriff nutzt TMS in ihrer aktuellen Blogserie - Marketinggeblubber

Danke.
Seit ich mal im Source von TMS einen Fehler suchte mache ich einen möglichst weiten Bogen um das.

[Sinspin]

Zitat von fisipjm:

Was soll den dieses Geschwurbel?

LOL Dude! Wenn Du nen Scheißtag hast, dann mach Schluss und geh ne Runde laufen.

Zitat von fisipjm:

Das Google Maps ihre eigene Datenbasis mit Hilfe von KI gehimmelt hat wäre mir auch neu, ich konnte dazu zumindest nix finden auf die schnelle, hast du dafür irgendwelche Belege?

Jap, suche ich raus.
Du kannst das Ergebnis auch selber prüfen, mach die Maps auf, geh auf Satelit, und Zoom rein bis die Hausnummern kommen. Manche Häuser oder Grünflächen haben 4 oder 5 Nummern. Das klappt Weltweit. Ich habe ein paar Bilder von richtig krassen Fällen.

[jaenicke]

Zitat von fisipjm:

Das Google Maps ihre eigene Datenbasis mit Hilfe von KI gehimmelt hat wäre mir auch neu, ich konnte dazu zumindest nix finden auf die schnelle, hast du dafür irgendwelche Belege?

Dass Google KI für Google Maps nutzt, ist ja nix Neues. Wie sollten diese Datenmengen sonst sinnvoll bewältigt werden? Ein wenig Einblick bringen dazu Blogeinträge wie dieser von 2021:
https://blog.google/intl/de-de/produ...e-intelligenz/
Zu dem konkreten Thema habe ich aber auch nichts gesehen.

[Delphi.Narium]

Zitat von TigerLilly:

Mir gruselts bei dem Gedanken, dass man die Dinge, wo man sich selber nicht so gut auskennt, dann für bare Münze nimmt bzw übersieht, was für ein Holler das ist.

Hab' mir vor kurzem mal von ChatGPT erklären lassen, wie KI funktioniert.

Dabei kamen dann auch folgende Aussagen:

Zitat von ChatGPT:

Sprachmodelle optimieren auf „Plausibilität“, nicht auf Wahrheit.

Ich bin darauf trainiert, das *Plausibelste* zu sagen – nicht zwingend das *Wahrste*.

Warum ist das so?

Weil ich ein sogenanntes "wahrscheinlichkeitsbasiertes Sprachmodell" bin. Das bedeutet:
- Ich berechne für jedes neue Wort oder Satzfragment: „Was ist statistisch gesehen das Nächstwahrscheinlichste?“
- Das Ziel: "Stimmigkeit", "Kohärenz", "Lesbarkeit" – also ein Satz, der sich gut anhört und oft „so ähnlich“ in der Welt auftritt.
Das ist nützlich bei:
- Texte schreiben
- Dialoge führen
- Zusammenhänge erläutern
Aber gefährlich bei:
- Faktenwissen
- Juristischen Auslegungen
- Wissenschaftlicher Genauigkeit

Warum kann Plausibilität zur Falle werden?
Weil "Plausibilität <> Wahrheit".
Ein Beispiel:
„Albert Einstein wurde 1905 mit dem Nobelpreis für seine Relativitätstheorie ausgezeichnet.“
Klingt "sehr plausibel", ist aber "falsch":
- Einstein erhielt 1921 den Nobelpreis
- …und "nicht" für die Relativitätstheorie, sondern für den "photoelektrischen Effekt"

Deshalb lautet die goldene Regel im Umgang mit KI: „Vertraue dem Stil – aber prüfe die Substanz.“
Oder, etwas flapsiger: „Klingt schlau? Lieber nochmal nachschauen.“

Und da liegt das Problem: Was eine KI sagt, klingt plausibel, mehr aber auch nicht. In einer Antwort von einer KI muss nichts, aber wirklich auch garnichts, stimmen. Er reicht, wenn es plausibel klingt.

Was sollen wir denn in Zukunft von einer KI erwarten, die mit allem aus Facebook und Co. trainiert wird? Ist dann auf einmal das Ergebnis von "allen Facebookpost o. ä." und daraus per Wahrscheinlichkeit berechneter Plausibilität "richtig"?

Zitat von Rollo62:

Komisch, ich habe das Problem selten das es halluziniert.

Ich habe mir aber auch angewöhnt, dass ich die Aufgabe exakt und detailliert beschreibe und alles notwendige Hintergrundwissen oder Vorlagen mitliefere.
Dann bekomme ich in 99.9% sehr gute und passende Antworten.
Wird etwas vergessen, dann lasse ich das ergänzen.

Genau das ist das "Kunststück", das eine sinnvolle Arbeit mit KI möglich und effektiv macht.

Je genauer und präziser und ausgefeilter die Fragestellung, um so größer die Wahrscheinlichkeit, dass eine KI auch eine passende Antwort erstellen kann. Dazu muss sie halt in ihrem Fundus passende "Gegenstücke" finden und aus diesen per Wahrscheinlichkeit eine plausible Antwort bilden. Eine unpräzise Frage kann nicht zu einer präzisen Antwort führen.

Je genauer ich weiß, was ich wissen will (und das in der Fragestellung formuliere), um so größer ist die Wahrscheinlichkeit, dass ich eine verwertbare Antwort erhalte.

Eine KI denkt nicht, sie sucht lediglich in ihrem Fundus, was am wahrscheinlichsten zum bisher gesagten passen könnte. Man könnte auch sagen: Raten auf hohem Niveau

[Stevie]

Zitat von Phoenix:

Auf der EKON halte ich dazu Vorträge, wer also im November in Düsseldorf dabei ist, darf sich das gerne mal Live angucken.

Ich wünsche sehr, dass du das dann auch mit Delphi zeigst und nicht mit dem, was du tagtäglich nutzt. Auf der EKON letztes Jahr hat der Referent (nicht du) irgendwas vorgeschwärmt und auf die Frage, wie das mit Delphi ginge, null Plan hatte - das war sehr sehr enttäuschend, milde gesagt.

[haentschman]

Hallöle...

Zitat:

Wer die Erwartung hat, dass die AI jetzt alle Arbeiten für uns übernimmt

...nicht immer von uns als Programmierer ausgehen. In unserem kleinen Bereich können wir, manchmal jedenfalls, Blödsinn erkennen. Das ist aber nicht das was der TE gemeint hat. Viele Andere benutzen die KI als allwissenes Informationsmittel ohne Prüfung!

[Edelfix]

Ich arbeite oft in Delphi oder PHP. Dabei ist mir aufgefallen des der Quellcode in Delphi viel öfter Unsinn wie nicht existierende Funktionen enthält als PHP.

ChatGPT hat all sein Wissen aus dem Internet. Ist das Internet zu wenig mit Delphi Wissen gefüttert worden?

[Phoenix]

Zitat von Stevie:

Zitat von Phoenix:

Auf der EKON halte ich dazu Vorträge, wer also im November in Düsseldorf dabei ist, darf sich das gerne mal Live angucken.

Ich wünsche sehr, dass du das dann auch mit Delphi zeigst und nicht mit dem, was du tagtäglich nutzt. Auf der EKON letztes Jahr hat der Referent (nicht du) irgendwas vorgeschwärmt und auf die Frage, wie das mit Delphi ginge, null Plan hatte - das war sehr sehr enttäuschend, milde gesagt.

Ich habe was mit FreePascal vorbereitet, nicht Delphi direkt, aber das sollte übertragbar sein

[Rollo62]

Zitat von haentschman:

...nicht immer von uns als Programmierer ausgehen. In unserem kleinen Bereich können wir, manchmal jedenfalls, Blödsinn erkennen. Das ist aber nicht das was der TE gemeint hat. Viele Andere benutzen die KI als allwissenes Informationsmittel ohne Prüfung!

Das Thema ist ja nicht nur kommt Blödsinn raus, oder nicht, das kann man wirksam vermeiden oder verringern.
Es ging auch um das "AI Superpower" Marketing, was wohl von TMS in Spiel gebracht wurde.

Dazu muss ich sagen, dass TMS aktuell wohl so ziemlich als Einziger das volle Potential von z.B. MCP Servern erkannt hat, und dass das dies hier noch kaum jemand überhaupt auf dem Schirm hat.
Also ich unterschreibe allein aus diesem Grund "AI Superpower" komplett, was sollte es denn eigentlich sonst sein?