---
term: "Cache-Augmented Generation"
slug: "cache-augmented-generation"
glossar_id: "G320"
variants: ["CAG"]
category: "embeddings-suche-und-retrieval-augmented-generation"
marker: "Uneinheitlich"
short: "Nutzung vorab verfügbarer beziehungsweise gecachter Inhalte statt fallweiser Suche."
sources:
  - label: "Chan et al.: Don't Do RAG, When Cache-Augmented Generation is All You Need"
    url: "https://arxiv.org/abs/2412.15605"
  - label: "Gao et al.: Retrieval-Augmented Generation for Large Language Models, A Survey"
    url: "https://arxiv.org/abs/2312.10997"
status: "entwurf"
updated: "2026-09-21"
---

Cache-Augmented Generation, abgekürzt CAG, verzichtet auf die Suche zur Laufzeit. Stattdessen wird der gesamte benötigte Wissensbestand vorab in das Kontextfenster geladen und der zugehörige Zwischenzustand zwischengespeichert, sodass jede Frage ohne Abrufschritt beantwortet wird. [Chan et al.](https://arxiv.org/abs/2412.15605) Der Begriff ist noch nicht gefestigt, deshalb die Kennzeichnung „Uneinheitlich".

## Große Kontextfenster verschieben die Rechnung

Möglich wird das durch gewachsene Kontextfenster: Was früher nur abschnittsweise hineinpasste, passt bei begrenzten Beständen inzwischen am Stück hinein. Damit entfallen die typischen Schwachstellen der Suche, nämlich verfehlte Treffer, Wartezeit durch den Abruf und ein zusätzliches Bauteil im System.

Die Bedingung steht in der Arbeit selbst: Der Bestand muss begrenzt und überschaubar sein. Für eine Wissenssammlung mit Millionen Dokumenten ist das Verfahren nicht gedacht, dort bleibt der Abruf notwendig. [Gao et al.](https://arxiv.org/abs/2312.10997)

## So kannst du dir das vorstellen

Der Unterschied ist der zwischen einem Handapparat und einer Bibliothek. Passen die zwanzig Bücher, die man braucht, auf den eigenen Tisch, spart man sich jeden Gang. Bei zwanzigtausend Büchern führt kein Weg am Katalog vorbei. Das Bild erklärt die Bedingung, unter der sich das Vorladen lohnt.

## Was es in der Praxis bedeutet

Für abgegrenzte Bestände ist das eine ernsthafte Alternative: ein Produkthandbuch, eine Hausordnung, ein Regelwerk. Die Antwortzeit sinkt, und die Fehlerquelle Suche fällt weg.

Zu bedenken sind drei Dinge. Kosten fallen für den gesamten Kontext an, auch wenn nur ein Satz gebraucht wird, wobei Zwischenspeicherung das dämpft. Bei sehr langen Eingaben nutzen Modelle die Mitte schlechter als Anfang und Ende. Und Aktualisierungen erfordern, den zwischengespeicherten Zustand neu aufzubauen.

## Wo es verwechselt wird

CAG ist nicht dasselbe wie Prompt Caching: Die Zwischenspeicherung ist das Mittel, das Verfahren ist der Verzicht auf den Abruf. Und es ersetzt RAG nur dort, wo der Bestand klein genug ist.

## Verwandte Begriffe

**Retrieval-Augmented Generation**, **Prompt Caching**, **Context Window**, **Retriever**, **Naive RAG**.