Wenn eine Funktion mit 100%-CPU-Leistung der Kerne laufen soll, dann nimmt man eben nur so viele Threads, wie es (arbeitslose) Kerne gibt.
Bei mehr wird, in der Regel, der Verwaltungsaufwand immer mehr Rechenleistung auffressen, zzgl. der Synchronisation usw.

Wenn die Threads fast nichts zu rechnen haben, oder eben auch nacheinander ausgeführt werden können, dann wäre ein Thread-Pool oder Fiber eine Alternative, mit einer aktiven Threadanzahl entsprechend der Kerne.


Es sind sogar Leute auf die kranke Idee gekommen Dateioperationen in Threads laufen zu lassen (siehe Microsoft Suche), wo der Flaschenhalt der Datenträger ist, also 1 Thread pro Festplatte.
Dort merkt man das sogar noch krasser (bei mechanischen HDDs), daß sich mehrere Threads gegenseitig bremsen und es mit mehr Threads immer langsamer wird.
Theoretisch kann man es auch mit Threads machen, aber nur wenn im Thread auch noch was Anderes gemacht, welches die meiste Zeit beansprucht, wie z.B. eine Verarbeitung der Dateidaten.

Mit anderen Worten: Threads gibt es nicht umsonst.

Jedes Umschalten des Threads kostet Rechenzeit, weil innerhalb der CPU massenhaft Register ausgetauscht werden müssen (das sind BEI WEITEM nicht nur EAX, EBX und Konsorten !). So ein Umschalten, Kontextwechsel genannt, frißt so an die 1000-2000 Takte.

Bastelt man auf einem Quadcore nun 4 Threads, läuft auf jedem Core ein Thread. Die Anzahl der Kontextwechsel ist gleich null. Erstellt man 8 Threads, bürdet man jedem Kern 2000 Extra-Takte für einen Kontextwechsel auf. Und erstellt man 12000 Threads, dann eben 12000/4 = 3000 * 2000 = 6Mio. Takte NUR für Kontextwechsel.

Dir wird auffallen, das die verwaltung all dieser Threads und das Umschalten zwischen diesen irgendwann mehr Zeit verbraucht, als du durch die Threads einsparst. Als Faustregel kann man sagen: Jeder Thread > ANZ_CORES bringt nur noch 80% Gewinn.

Auf Singlecore-Maschinen also:

- 1 Thread = 1
- 2 Thread = 1 + 0.8 = 1.8 (und nicht 2.0)
- 3 Thread = 1 + 0.8 + 0.64 = 2.44 (und nicht 3.0)

usw.