Der zweite Drive-Irrtum
Neben dem Drive-Irrtum aus dem Einstieg gibt es einen zweiten verbreiteten Fehler: alles Wissen über denselben Kanal. Glossar, Richtlinie, Preisliste und Organigramm werden gleichermaßen zerlegt, indexiert und durchsucht, obwohl sie unterschiedliche Zugriffsmuster brauchen. Die meisten RAG-Probleme sind in Wahrheit Wissen auf dem falschen Weg.
💡Was RAG wörtlich heißt: Retrieval-Augmented Generation. Vor der Antwort wird Wissen von außen in den Kontext geholt, mehr sagt der Begriff nicht. Nach dieser Definition sind die Wege 2, 3 und 4 alle RAG, denn alle drei holen zur Antwortzeit. Umgangssprachlich ist RAG aber auf einen einzigen Weg verengt: die Suche über einen Index, oft gleichgesetzt mit der Vektordatenbank. Diese Lesson sagt deshalb klassisches RAG, wenn nur dieser Weg gemeint ist. Dass der weite Begriff der tragfähige ist, zeigt schon das Fachvokabular selbst: Graph-RAG und Agentic RAG (Weg 3) tragen RAG im Namen und sind keine Index-Suche.
| Weg | Mechanik | Wer wählt aus? | Wann richtig |
|---|
| 1. Mitgeben | steht in jedem Kontext: Systemprompt, Projektanweisung | niemand, es steht immer da | klein, stabil, fast immer gebraucht |
| 2. Finden lassen | Index-Suche über Bestände, Treffer in den Kontext (klassisches RAG) | ein Ranking, einmal, die Top-k-Treffer | groß, textuell, Fragen unvorhersehbar |
| 3. Navigieren lassen | Agent folgt Struktur: Index-Notizen, Links, Beziehungen | der Agent selbst, Schritt für Schritt | vernetzt, der Zusammenhang trägt die Bedeutung |
| 4. Nachschlagen lassen | Tool-Abfrage zur Antwortzeit: Datenbank, API | das Quellsystem, exakt auf eine präzise Abfrage | strukturiert, volatil, exakt |
Die entscheidende Spalte ist die dritte. Die Wege unterscheiden sich nämlich nicht primär in der Technik, Navigieren und Nachschlagen laufen zum Beispiel beide über Tool-Aufrufe. Sie unterscheiden sich in der Auswahllogik: Wer entscheidet, was in den Kontext kommt, und ist das Ergebnis ähnlich oder exakt? Ein Ranking wählt einmal und liefert die k ähnlichsten Stücke, ob sie reichen, bleibt offen. Ein navigierender Agent wählt in Schleife weiter, bis kein Verweis mehr offen ist. Ein Quellsystem antwortet exakt auf genau das, was abgefragt wurde.
Weg 1 – Mitgeben: der Weg ohne Retrieval
Glossar, Grundsätze und harte Verbote stehen dauerhaft im Kontext, etwa im Systemprompt. Jede Anfrage zahlt diese Tokens, dafür gibt es kein Retrieval-Risiko. Als Faustregel eignet sich für diesen Weg, was auf zwei Seiten passt und ein Jahr hält. Lange Dokumente vorsorglich mitzugeben verwässert dagegen nur die Aufmerksamkeit des Modells.
Weg 2 – Finden lassen: was im klassischen RAG steckt
Auch der enge Begriff bündelt noch verschiedene Suchverfahren, und der Unterschied ist im Betrieb spürbar:
- Dense Retrieval (Vektorsuche): sucht nach semantischer Ähnlichkeit. Findet „Hund“, auch wenn im Text „Vierbeiner“ steht. Diese eine Variante ist gemeint, wenn RAG umgangssprachlich mit der Vektordatenbank gleichgesetzt wird.
- Sparse Retrieval (Stichwortsuche, z.B. BM25): zählt exakte Worttreffer. Unverzichtbar für Eigennamen, IDs und Produktcodes, die die Vektorsuche verwischt.
- Hybrid Search mit Reranking: der heutige Standard. Beide Suchen laufen parallel, ein spezialisiertes Modell sortiert die Treffer neu, bevor sie ins Kontextfenster gehen.
Die Qualität entscheidet sich aber nicht im Suchverfahren, sondern in den Ebenen darunter. Erst filtern, dann ranken: Metadaten grenzen den Suchraum ein (status: final, gilt_bis nicht abgelaufen), so wird eine abgelaufene Fassung aussortiert, bevor das Ranking überhaupt beginnt. Einheiten statt Fetzen: Gefunden wird eine vollständige Antwort-Einheit, in der Regel und Ausnahme zusammen ankommen.
Weg 3 – Navigieren lassen: Graph-RAG und der Agent als Leser
Manche Fragen sind keine Suchfragen. „Welche Projekte sind vom Ausfall von Server X betroffen?“ beantwortet kein Ähnlichkeits-Ranking. Graph-RAG folgt stattdessen den Kanten des Knowledge Graphs: Server X hostet Datenbank Y, die wird genutzt von Projekt Z. Geliefert wird exakt dieser Pfad. Diese Form ist stark, wenn die Verbindung selbst die Antwort ist, etwa bei Abhängigkeiten und Prozessketten. Der Name trägt RAG zu Recht: Auch hier wird zur Antwortzeit Kontext geholt, nur eben entlang von Kanten statt über ein Ranking.
Die zweite Spielart, Agentic RAG, braucht nicht einmal einen Graphen. Der Agent bekommt Werkzeuge (etwa über MCP) und arbeitet wie ein neuer Mitarbeiter, der sich einliest: Er öffnet Verzeichnisse, überfliegt Dateinamen und Frontmatter, liest gezielt und entscheidet dann, ob die Information reicht oder ob er weitersucht. Die Struktur der Wissensbasis dient ihm dabei als Karte. Der Unterschied zur Suche ist die Auswahllogik aus der Tabelle, auf einen Merksatz gebracht: Vollständigkeit statt Top-k. Die Suche wählt einmal und liefert die ähnlichsten Stücke, die Navigation liefert alle verbundenen Einheiten und ist beendet, wenn keine Links mehr offen sind. Der Preis dafür sind längere Antwortzeiten und höherer Token-Verbrauch.
💡Das Prinzip dahinter heißt Progressive Disclosure: erst die Wegweiser (Dateinamen, Frontmatter, Index-Notizen), dann gezielt der Inhalt. Der Begriff stammt aus dem UX-Design und beschreibt heute, wie Agenten Kontext schrittweise laden. Agent Skills funktionieren genauso: erst Name und Beschreibung, dann die Anleitung, dann verlinkte Dateien. Wichtig für die Begriffshygiene: Progressive Disclosure ist keine fünfte Retrieval-Art, sondern das Ladeprinzip, mit dem Navigieren funktioniert. Mehr dazu in der Lesson „Agent Skills – Arbeit einmal beschreiben, immer wieder nutzen“.
Weg 4 – Nachschlagen lassen: exakt statt ähnlich
Eine Zahl, die sich ändert, hat in einem Chunk nichts verloren. Bei Preisen, Kilometersätzen, Lagerbeständen oder Ansprechpartnern veraltet der indexierte Stand schnell, wird aber weiter gefunden und mit korrekter Quellenangabe ausgeliefert. Der passende Weg führt über ein Tool: Der Agent holt den aktuellen Wert zur Antwortzeit aus der Datenbank oder per API, bei strukturierten Beständen auch als generierte Abfrage (Text-to-SQL). Das Ergebnis ist exakt statt ähnlich und zudem prüfbar, weil die Abfrage im Log steht. Die Wissensbasis verweist deshalb auf das Tool, statt die Zahl zu kopieren. Von Weg 3 trennt diesen Weg nicht die Technik, beides sind Tool-Aufrufe, sondern der Inhalt: Navigieren liest Wissenseinheiten und folgt ihrer Struktur, Nachschlagen holt einzelne Werte aus einem strukturierten System.
Übung: Fünf Wissensarten, vier Wege
Aufgabe: Ordne zu. Welcher Weg passt zu welchem Wissen, und warum?
- Glossar mit 40 Begriffen
- Reisekostenrichtlinie mit Ausnahmen
- aktuelle Preisliste
- Projektlandschaft mit Abhängigkeiten
- die fünf Grundsätze eurer Domäne
Drei Prüffragen helfen: Wie oft ändert es sich? Wie oft wird es gebraucht? Trägt der Text die Bedeutung oder die Struktur?
Zeitaufwand: ~5 Minuten. Prüfe deine Zuordnung mit dem Frag-KI-Assistenten.
Takeaway
Regel #4: Zugriff folgt Inhalt. Die Architekturfrage ist nie „welcher Weg“, sondern „welcher Weg wofür“.