Embeddings, Suche und Retrieval-Augmented Generation
Corrective RAG
Heißt auch CRAG.
RAG mit Bewertung und Korrektur unzureichender Retrieval-Ergebnisse.
Corrective RAG, abgekürzt CRAG, prüft die abgerufenen Dokumente, bevor sie verwendet werden, und reagiert, wenn sie nicht taugen. Dafür bewertet ein kleines Prüfmodell die Treffer und gibt einen Vertrauenswert aus, an dem sich entscheidet, wie es weitergeht. Reicht der Bestand nicht, wird zusätzlich im Web gesucht. Yan et al.
Der Umgang mit schlechten Treffern ist eingebaut
Die übliche Bauform verlässt sich darauf, dass die Suche etwas Passendes findet, und gibt weiter, was sie bekommt. Genau dort setzt CRAG an: Es behandelt den Fall, dass die Suche danebenliegt, als Normalfall und sieht dafür eigene Wege vor, statt das Modell mit unpassendem Material antworten zu lassen.
Damit gehört das Verfahren zu einer Familie von Ansätzen, die den starren Ablauf aus einmal Suchen und einmal Antworten um Prüf- und Korrekturschritte erweitern. Gao et al.
So kannst du dir das vorstellen
Die Archivarin legt die Akten nicht einfach hin, sondern sieht kurz hinein. Passt nichts, sagt sie es und geht in ein anderes Archiv, statt die falschen Unterlagen zu übergeben. Das Bild erklärt den Prüfschritt, es sagt nichts über die Güte der Prüfung.
Was es in der Praxis bedeutet
Auch ohne das vollständige Verfahren lohnt der Gedanke: Ein einfacher Schwellenwert oder eine kurze Prüfung der Treffer verhindert die ärgerlichste Fehlerart, nämlich eine selbstbewusste Antwort auf Grundlage unpassender Abschnitte. Die ehrliche Ausgabe „dazu finde ich nichts" ist in vielen Anwendungen mehr wert als eine geratene Antwort.
Beim Rückgriff auf eine Websuche als Ausweichweg ist Vorsicht geboten. In einem internen Wissenssystem kann eine Antwort aus dem offenen Netz die Erwartung verletzen, und die Herkunft muss dann klar ausgewiesen sein.
Wo es verwechselt wird
Corrective RAG prüft die abgerufenen Dokumente, ein Reranker sortiert sie. Und es ist nicht dasselbe wie Self-RAG: Dort entscheidet ein eigens trainiertes Modell über Abruf und Bewertung, hier ein vorgeschalteter Prüfschritt.
Verwandte Begriffe
Self-RAG, Agentic RAG, Retrieval Noise, Reranking, Retrieval-Augmented Generation.