RAG-Fusion

RAG-Fusion erzeugt aus einer Nutzerfrage mehrere Suchanfragen, sucht mit allen und führt die Trefferlisten über ihre Rangplätze zusammen. Die Arbeit, die den Ansatz beschreibt, verbindet dafür den üblichen Abruf mit der Zusammenführung nach Kehrwerten der Ränge. Rackauckas

Eine Frage, mehrere Blickwinkel

Der Ausgangspunkt ist eine bekannte Schwäche: Eine einzige Formulierung trifft oft nicht die Wörter, die im Dokument stehen. Lässt man ein Modell drei bis fünf Varianten der Frage erzeugen, decken diese verschiedene Blickwinkel und Wortwahlen ab.

Die Zusammenführung sorgt dafür, dass Treffer, die in mehreren Listen weit oben stehen, nach vorn kommen. Sie braucht dafür keine Abstimmung und verlangt nicht, dass die Listen vergleichbare Bewertungen tragen. Elastic: Reciprocal rank fusion

So kannst du dir das vorstellen

Drei Leute suchen dieselbe Sache mit ihren eigenen Worten. Was zwei von ihnen unabhängig finden, ist vermutlich richtig. Das Bild erklärt die Bestätigung über mehrere Suchwege, es sagt nichts über die Qualität der erzeugten Varianten.

Was es in der Praxis bedeutet

Der Nutzen hängt an den erzeugten Fragen. In der zitierten Auswertung waren die Antworten genau und umfassend, sobald die Varianten die ursprüngliche Frage sinnvoll aufspannten. Wichen sie zu weit ab, gingen Antworten am Thema vorbei.

Praktisch heißt das: Die Varianten brauchen eine enge Anweisung, etwa nur Umformulierungen statt neuer Teilfragen, und ihre Zahl sollte klein bleiben. Jede Variante kostet eine zusätzliche Suche und vergrößert die Kandidatenmenge, die danach bewertet werden muss.

Wo es verwechselt wird

RAG-Fusion erzeugt mehrere Fragen, hybride Suche dagegen mehrere Suchwege für dieselbe Frage; beides lässt sich kombinieren. Und die Zusammenführung ersetzt kein Reranking, weil sie nur Ränge verrechnet.

Verwandte Begriffe

Reciprocal Rank Fusion, Hybrid Search, Retriever, Hypothetical Document Embeddings, Reranking.