KI-Engine auf eigener Hardware nutzen

[Rollo62]

Zitat von Phoenix:

Das wird jetzt etwas offtopic. Vielleicht starten wir die Copilot+ PC-Thematik lieber nochmal in einem separaten Thread neu?

Was genau meinst Du jetzt?
Die Suche nach der richtigen KI und/oder remote oder lokalem Server und der Performance ist doch entscheidend.
https://www.youtube.com/watch?v=O5ojRuiYRGY

Mit Ollama hat man so gut wie alle Möglichkeiten was in eigene, lokale Anwendungen zu integrieren,
oder man lässt es mit RunPod in einer GPU-Cloud laufen.

Will man KI in der App, dann gibt es mittlerweile zig Cloud-Anbieter und zig Möglichkeiten.

Ich sehe das jetzt nicht unbedingt als OffTopic.
Die offene Frage wäre vielleicht, ob die App intern oder extern geschäftlich genutzt werden soll, oder sogar eine eigene Serveranwendung ist, so ganz klar ist mir das noch nicht.