RAG
Kurz gesagt
RAG steht für Retrieval Augmented Generation. Bevor die AI antwortet, sucht sie in Ihren eigenen Unterlagen nach passenden Stellen und baut die Antwort darauf auf. So antwortet sie mit Ihrem Firmenwissen statt nur aus dem Gedächtnis des Modells und kann zeigen, woher eine Aussage stammt.
Wie funktioniert RAG?
In drei Schritten. Ihre Dokumente werden durchsuchbar gemacht. Bei einer Frage holt die Suche die passendsten Abschnitte heraus. Das Sprachmodell bekommt Frage und Abschnitte und formuliert daraus die Antwort, mit Verweis auf die Quelle. Der Name stammt aus einer Forschungsarbeit von 2020.
Wo begegnet Ihnen RAG im Alltag?
Microsoft Copilot arbeitet nach diesem Prinzip mit Mails, Chats und Dokumenten in Microsoft 365. Laut Microsoft zeigt Copilot „nur Unternehmensdaten an, für die einzelne Benutzer mindestens über Anzeigeberechtigungen verfügen“. Umgekehrt heißt das: Wer Ordner zu großzügig freigegeben hat, findet sie über Copilot.
Halluziniert die AI mit RAG nicht mehr?
Seltener, aber nicht nie. Findet die Suche die falsche Stelle oder keine, antwortet das Modell trotzdem. Microsoft schreibt selbst, die Antworten seien „nicht garantiert zu 100 % sachlich“. Deshalb gehören Quellen in jede Antwort, damit man nachprüfen kann.
Unsere Einschätzung. Die meiste Arbeit steckt nicht in der Technik, sondern in den Unterlagen: aktuelle Fassungen, klare Ablage, saubere Berechtigungen.
Quellen
- Lewis u. a.: Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks, NeurIPS 2020
- Microsoft Learn: Daten, Datenschutz und Sicherheit für Microsoft Copilot, Stand 9.7.2026
Stand 6.10.2026. Dieser Text ersetzt keine rechtliche Prüfung im Einzelfall.
