Unified Memory

Bei Unified Memory teilen sich Hauptprozessor und Grafikeinheit denselben physischen Speicher, statt jeweils eigenen zu haben. Daten müssen dann nicht zwischen zwei Speichern kopiert werden, und die Grafikeinheit kann auf den gesamten verfügbaren Speicher zugreifen. Apple

Für lokale Modelle ist das ein praktischer Vorteil

Bei getrennten Speichern begrenzt die Karte die Modellgröße, unabhängig davon, wie viel Arbeitsspeicher der Rechner hat. Bei gemeinsamem Speicher gilt die Gesamtmenge, weshalb Geräte mit viel Speicher Modelle ausführen können, für die sonst eine Karte der oberen Klasse nötig wäre.

Der Preis ist die Bandbreite. Gemeinsamer Speicher erreicht in der Regel nicht die Geschwindigkeit dedizierter Grafikkarten, und weil beim Erzeugen von Text die Bandbreite den Takt vorgibt, fällt die Ausgabe langsamer aus. NVIDIA

So kannst du dir das vorstellen

Ein gemeinsamer Lagerraum für zwei Abteilungen statt zweier getrennter Räume mit Transportweg dazwischen. Man spart das Umladen, teilt sich aber die Tür. Das Bild erklärt den Zielkonflikt, es vergleicht keine konkreten Geräte.

Was es in der Praxis konkret bedeutet

Für lokale Arbeit mit größeren Modellen sind solche Systeme attraktiv, weil die Speichergrenze höher liegt. Erwarte aber keine Serverleistung: Bei langen Ausgaben zeigt sich der Bandbreitenunterschied deutlich. Prüfe außerdem, wie viel Speicher das System der Grafikeinheit tatsächlich zuweist, denn das ist oft weniger als der Gesamtspeicher.

Wo es verwechselt wird

Gemeinsamer Speicher ist nicht dasselbe wie das Auslagern von Modellteilen in den Arbeitsspeicher bei getrennten Speichern. Dort werden Daten über eine langsame Verbindung hin und her geschoben, hier liegen sie ohnehin am selben Ort.

Verwandte Begriffe

VRAM, Memory Bandwidth, GPU Offloading, MLX, Local LLM, OOM.