GPU
Auch: Grafikprozessor · Graphics Processing Unit
Ein Grafikprozessor, der viele Rechenoperationen parallel ausführt und deshalb das Arbeitspferd der KI ist.
Ursprünglich für Computerspiele entwickelt, eignen sich GPUs ideal für die Matrixrechnungen neuronaler Netze. Training und Betrieb grosser Modelle laufen in Rechenzentren auf Tausenden vernetzten GPUs.
Neben der Rechenleistung ist der Grafikspeicher entscheidend: Er bestimmt, wie grosse Modelle auf einer Karte laufen können. Die hohe Nachfrage macht GPUs zu einem knappen und teuren Gut.
Allgemeine Information, keine Rechts- oder Fachberatung.