𝗪𝗮𝗿𝘂𝗺 𝗚𝗣𝗨𝘀 𝗖𝗣𝗨𝘀 𝗯𝗲𝗶𝗺 𝗔𝗜 𝗧𝗿𝗮𝗶𝗻𝗶𝗻𝗴 𝘀𝗰𝗵𝗹𝗮𝗴𝗲𝗻
Warum kann man nicht einfach eine größere CPU für KI bauen?
Das ist eine häufig gestellte Frage. Die meisten Menschen denken, GPUs gewinnen, weil sie schneller sind. Der wahre Grund liegt im Design. CPUs und GPUs lösen unterschiedliche Probleme.
KI-Training besteht größtenteils aus Matrixmultiplikation. Man führt Milliarden von mathematischen Operationen durch, die nicht voneinander abhängen. Das nennt man parallele Arbeit.
Eine CPU ist für komplexe, unvorhersehbare Aufgaben ausgelegt. Sie nutzt Silizium für:
- Branch Prediction
- Out-of-order execution
- Große Caches
Diese Funktionen helfen einer CPU, eine Web-Anfrage oder eine Datenbankabfrage zu verarbeiten. Aber für KI sind diese Funktionen verschwendet. Man benötigt keinen „intelligenten“ Kern, um zwei Zahlen eine Milliarde Mal zu multiplizieren.
Eine GPU geht einen anderen Weg. Sie verzichtet auf die komplexe Mechanik. Anstatt weniger intelligenter Kerne nutzt sie tausende einfache Kerne.
Die Hardware-Lücke ist gewaltig:
- Intel Xeon 6+ hat bis zu 288 Kerne pro Sockel.
- NVIDIA Blackwell B300 hat 20.480 CUDA-Kerne.
Auch die Energieeffizienz ist anders. Ein Xeon-Kern verbraucht etwa 1,5 W. Ein B300-Kern verbraucht etwa 0,07 W. Man zahlt eine hohe „Energie-Steuer“ für eine CPU-Intelligenz, die beim KI-Training nie genutzt wird.
Auch die Speicherbandbreite spielt eine Rolle.
- Xeon 6+ liefert etwa 770 GB/s.
- B300 liefert 8 TB/s unter Verwendung von HBM3e-Speicher.
Tausende von Kernen sind nutzlos, wenn sie untätig auf Daten warten. GPUs kombinieren viele Kerne mit massiven Speichergeschwindigkeiten, damit sie zusammenarbeiten können.
Wenn man versuchen würde, 20.000 CPU-Kerne auf einen einzigen Chip zu packen, würde man sofort an eine Leistungs- und Hitzegrenze stoßen. Zudem würde man für „intelligente“ Funktionen bezahlen, die man gar nicht benötigt.
Stellen Sie es sich so vor:
- Ein CPU-Kern ist ein Formel-1-Wagen. Er ist schnell und fährt Kurven gut, aber er ist teuer.
- Ein GPU-Kern ist ein Gabelstapler. Er ist weder schnell noch schick, aber eine Flotte von Gabelstaplern bewegt mehr Fracht als ein einziger Rennwagen.
Moderne KI arbeitet am besten mit beidem. Die CPU fungiert als Gehirn, um Aufgaben zu verwalten. Die GPU fungiert als Muskel, um die schwere Mathematik zu erledigen.
Optional learning community: https://t.me/GyaanSetuAi