RAG (abrufgestützte Generierung)
Kurz gesagt
Bei RAG werden passende Dokumente aus einer Wissensbasis abgerufen und einem Sprachmodell übergeben, damit es seine Antwort darauf stützt.
Quellen[1]
Definition
RAG (Retrieval-Augmented Generation) ist ein Verfahren, das eine Suchmaschine mit einem Sprachmodell kombiniert. Vor der Antwort ruft das System passende Passagen aus einer Dokumentensammlung ab und fügt sie in die Anweisung an das Modell ein, das seine Antwort darauf gestützt generiert.
Die Schritte
- Vorbereitung: Die Dokumente werden in Passagen zerlegt, in Embeddings umgewandelt und in einem Index gespeichert (oft einer Vektordatenbank).
- Abruf: Die Frage der Nutzerin oder des Nutzers wird ebenso umgewandelt, und die ähnlichsten Passagen werden gefunden.
- Generierung: Die ausgewählten Passagen werden der Anweisung hinzugefügt, und das Modell verfasst die Antwort, idealerweise mit Quellenangaben.
Vorteile
- Zugriff auf aktuelle oder private Informationen, die das Modell nicht gelernt hat.
- Halluzinationen verringern (nicht beseitigen), indem die Antwort in Dokumenten verankert wird.
- Quellen nennen, was die Überprüfung erleichtert.
- Wissen aktualisieren, ohne das Modell neu zu trainieren.
Grenzen
Die Qualität der Antwort hängt von der Qualität des Abrufs ab: Ungünstige Zerlegung oder unpassende Passagen verschlechtern das Ergebnis. Das Modell kann die übergebenen Dokumente auch ignorieren oder falsch deuten.
Ein Fehler oder eine Idee zu diesem Eintrag? Sagen Sie es uns