KI-Engine auf eigener Hardware nutzen

[himitsu]

Es gibt auch Windows-Schlepptops mit ARM und KI-Chip ... sogar mit einer neuen KI-Taste.

[Rollo62]

Ok, du meinst jetzt die neuen surface von Microsoft. Sind die denn günstiger?
Laptop als Server hatte ich auch angedacht, war aber wesentlich teurer.

[himitsu]

auch ASUS (Vivobook S-Series, irgendwelche NUC, ...)
und wer weiß wo noch

[add]
https://www.it-business.de/schnelle-...37d29f80289f1/
https://www.youtube.com/shorts/N-fAQ_DGpuc (Achtung, könnte nervig werden)

Zitat von ASUS:

Dedizierte Copilot Taste für bessere AI Erfahrung

Und ob ich mir da ein OLED antun wöllte?
https://www.delphipraxis.net/215371-...-monitore.html

[Phoenix]

Das wird jetzt etwas offtopic. Vielleicht starten wir die Copilot+ PC-Thematik lieber nochmal in einem separaten Thread neu?

[Rollo62]

Zitat von Phoenix:

Das wird jetzt etwas offtopic. Vielleicht starten wir die Copilot+ PC-Thematik lieber nochmal in einem separaten Thread neu?

Was genau meinst Du jetzt?
Die Suche nach der richtigen KI und/oder remote oder lokalem Server und der Performance ist doch entscheidend.
https://www.youtube.com/watch?v=O5ojRuiYRGY

Mit Ollama hat man so gut wie alle Möglichkeiten was in eigene, lokale Anwendungen zu integrieren,
oder man lässt es mit RunPod in einer GPU-Cloud laufen.

Will man KI in der App, dann gibt es mittlerweile zig Cloud-Anbieter und zig Möglichkeiten.

Ich sehe das jetzt nicht unbedingt als OffTopic.
Die offene Frage wäre vielleicht, ob die App intern oder extern geschäftlich genutzt werden soll, oder sogar eine eigene Serveranwendung ist, so ganz klar ist mir das noch nicht.

[TBx]

Ich sehe das wie Sebastian, die Hardware ist ein separates Thema. Dieses ist sicherlich genauso spannend.
Der Thread wurde daher aufgespalten.