Glossar

RAG (Retrieval-Augmented Generation)

RAG verbindet ein generatives KI-Modell mit einer gezielten Suche in einer festgelegten Wissensbasis, bevor eine Antwort formuliert wird.

Fachlich geprüft · Stand 31. August 2026

Was bedeutet RAG (Retrieval-Augmented Generation)?

Bei Retrieval-Augmented Generation werden passende Textstellen aus freigegebenen Dokumenten gesucht und zusammen mit der Frage an ein Modell übergeben. Das Modell soll seine Antwort auf diesen Kontext stützen. Dadurch können eigene, aktuelle Informationen genutzt werden, ohne sie dauerhaft in ein neues Modelltraining einzubauen.

Die Qualität hängt nicht nur vom Modell ab. Dokumentauswahl, Segmentierung, Metadaten, Zugriffsrechte, Suchverfahren und eine verständliche Quellenanzeige bestimmen, ob die gefundenen Stellen wirklich passen. Wenn die Wissensbasis keine ausreichende Antwort enthält, muss das System Unsicherheit sichtbar machen oder an einen Menschen übergeben.

So zeigt sich der Begriff im Arbeitsalltag

Ein interner Assistent beantwortet Fragen zu freigegebenen Arbeitsanweisungen. Er nennt die verwendeten Dokumente und Abschnitte. Fehlt eine belastbare Fundstelle oder ist ein Dokument abgelaufen, formuliert er keine verbindliche Antwort, sondern verweist an die zuständige Stelle.

Worauf Sie konkret achten sollten

  • Nur freigegebene, aktuelle und zugriffsberechtigte Dokumente sind durchsuchbar.
  • Fundstellen und Dokumentversionen bleiben für Nutzer nachvollziehbar.
  • Tests prüfen sowohl passende Antworten als auch Fälle ohne ausreichende Quelle.
  • Löschung, Aktualisierung und Rollenwechsel wirken auch auf den Suchindex.

Offizielle Quellen

Die Definition wurde anhand der folgenden offiziellen Dokumentationen, Standards oder amtlichen Informationen eingeordnet. Die konkrete Umsetzung hängt vom jeweiligen System und Anwendungsfall ab.

  1. Lewis et al.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks
  2. NIST AI Risk Management Framework