RAG (Retrieval-Augmented Generation) ist ein Muster, bei dem ein Sprachmodell zur Laufzeit die relevantesten Passagen aus Ihren eigenen Dokumenten abruft und daraus eine Antwort mit Quellenzitat formuliert so bleibt die Antwort prüfbar. Klassische Suche liefert eine Rangliste von Links und überlässt die Komposition dem Nutzer.
RAG-Systeme und klassische Suche sehen von außen ähnlich aus. Der Unterschied liegt darin, was der Nutzer zurückbekommt und wie viel er selbst zusammenpuzzeln muss.
| Dimension | Klassische Suche | RAG |
|---|---|---|
| Ergebnis | Rangliste von Links | Formulierte Antwort mit Zitat |
| Long-Tail-Abdeckung | Keyword-abhängig | Breiter, semantisch |
| Aktualität | Index-abhängig | Index-abhängig (Retriever) |
| Auditierbarkeit | Direkte Quelle | Direkte Quelle + Argumentation |
| Halluzinationsrisiko | Keins | Vorhanden muss gemessen werden |
Fazit: Klassische Suche gewinnt, wenn ein Link genügt. RAG gewinnt, wenn eine formulierte Antwort gefragt ist und Sie in Evaluation investieren.
Das Risiko besteht, ist aber durch den Retrieval-Schritt begrenzt: das Modell komponiert nur aus den gelieferten Passagen. Ein gutes RAG-System misst zusätzlich, ob jede Aussage einer abgerufenen Passage zuzuordnen ist, und verweigert Fragen außerhalb des Scopes. Wöchentliche Evaluation hält die Zahl in der Praxis nahe Null.
Fine-Tuning verändert die Gewichte des Modells; Wissen wird Teil des Modells und ist schwer prüfbar oder zu aktualisieren. RAG belässt das Modell und liefert ihm zur Laufzeit die aktuellen Dokumente. Schneller aktualisierbar, besser auditierbar, sicherer für regulierte Inhalte.
Chunking + Metadaten-Strategie, Embedding-Modellwahl, Retriever-Evaluation (Precision@k), Prompt-Orchestrierung mit System-Constraints, Access Control, damit abgerufene Passagen Rechte pro Nutzer respektieren, Logging + Traces für jede Antwort, sowie ein wachsender Eval-Satz an realen Fragen.
Ja. Wir setzen RAG gegen OpenAI, Anthropic, xAI, Azure OpenAI, Google Vertex, Bedrock und selbst gehostete Modelle (vLLM, Ollama) ein. Für DACH-Kunden mit Datenresidenz-Vorgaben ist EU-gehostet oder On-Prem der Standard.
Wenn Nutzer eine Liste von Dokumenten durchsuchen wollen (Recherche, Entdeckung), ist klassische Suche besser. Wenn die Frage Reasoning über das gesamte Korpus statt spezifischer Passagen erfordert, schlagen Agenten + Tools RAG allein.
