RAG für internes Unternehmenswissen
RAG verbindet generative Modelle mit gezielt abgerufenen Unternehmensquellen. Das Verfahren kann Antworten aktueller, belegbarer und rollenbezogener machen. Gute Ergebnisse entstehen jedoch nicht durch das bloße Laden vieler PDFs, sondern durch Quellenpflege, Berechtigungen, Retrieval-Evaluation und klare Antwortgrenzen.
Vom Dokument zum belegten Kontext
Dokumente werden erfasst, strukturiert, in sinnvolle Abschnitte zerlegt und mit Metadaten versehen. Version, Sprache, Dokumenttyp, Produktfamilie und Gültigkeit beeinflussen, welche Passage für eine Frage relevant ist. Änderungen müssen synchronisiert und veraltete Stände erkennbar bleiben.
Beim Retrieval zählen Trefferqualität und Berechtigung gemeinsam. Eine semantisch passende Passage darf nicht erscheinen, wenn der Nutzer die Quelle nicht lesen darf. Quellenzitate, Dokumentlink und Versionsstand geben Fachkräften die Möglichkeit, Antworten zu prüfen.
Evaluation statt Bauchgefühl
Ein Testset enthält reale Fragen, erwartete Quellen und schwierige Negativfälle. Gemessen werden Retrieval-Abdeckung, Präzision, Zitiergenauigkeit und fachliche Akzeptanz. Auch „keine ausreichende Quelle“ ist ein wertvolles Ergebnis, wenn das System Unsicherheit transparent macht.
Chunk-Größe, Ranking, Filter und Prompt werden kontrolliert verändert. Modellqualität und Retrieval-Qualität werden getrennt beurteilt, damit ein besser klingender Text nicht über falsche Quellen hinwegtäuscht. Prompt-Injection-Tests prüfen Dokumente und Eingaben auf manipulative Anweisungen.
Governance und Integration
Ein Knowledge Layer verbindet DMS, SharePoint, Dateiserver oder ausgewählte ERP-Daten. Connectoren arbeiten möglichst read-only; Freigaben und Löschungen werden aus Quellsystemen übernommen. Feedback kann Wissenslücken markieren, darf Rechte aber nicht umgehen.
Der PoC begrenzt Domäne, Nutzergruppe und Quellen. Produktion ergänzt Monitoring, Re-Indexierung, Versionswechsel und Incident-Pfade. RAG ist kein Wahrheitsautomat: menschliche Prüfung bleibt für Qualitätsfreigaben, regulatorische Aussagen und sicherheitskritische Entscheidungen erforderlich.
Häufige Fragen
Braucht RAG ein eigenes Modelltraining?
Meist nicht. Quellen werden zur Laufzeit abgerufen; Fine-Tuning ist eine getrennte Entscheidung.
Wie aktuell sind Antworten?
So aktuell wie Connector, Synchronisationsintervall und freigegebener Quellenstand.
Verhindern Zitate falsche Antworten?
Nein, aber sie machen Prüfung und Fehlersuche wesentlich belastbarer.
Kann RAG Quellrechte übernehmen?
Ja, wenn Connector, Identität und ACL-Modell dies technisch korrekt abbilden.