Wie baue ich mir einen eigenen Wissens-Assistenten mit RAG?
Ein eigener Wissens-Assistent mit RAG entsteht in vier Schritten — Dokumente bereinigen und strukturieren, sie in durchsuchbare Abschnitte mit Vektor-Repräsentation umwandeln, eine Suchkomponente anbinden, die bei jeder Anfrage passende Abschnitte findet, und einen laufenden Prozess einrichten, der neue oder geänderte Dokumente automatisch nachzieht.
Die häufigste Fehlannahme vor dem Eigenbau eines Wissens-Assistenten ist, dass das reine Hochladen von Dokumenten ausreicht. Der eigentliche Aufwand liegt in der vorgelagerten Datenaufbereitung.
Der Engpass eines eigenen Wissens-Assistenten ist selten die Technik der Vektorsuche — es ist der Zustand der Dokumente, die durchsucht werden sollen.
Schritt 1: Dokumente bereinigen und strukturieren
Gescannte PDFs ohne Texterkennung, widersprüchliche Versionen derselben Vorlage und veraltete, nicht mehr gültige Dokumente führen dazu, dass der Assistent falsche oder widersprüchliche Antworten gibt.
Vor der technischen Umsetzung lohnt sich eine Bereinigung: doppelte oder veraltete Dokumente aussortieren, gescannte Dateien mit Texterkennung versehen, klare Eigentümer für die Aktualität einzelner Dokumente benennen.
Schritt 2: Aufteilen und in Vektor-Repräsentation umwandeln
Dokumente werden in sinnvolle Abschnitte zerlegt und in eine durchsuchbare Vektordatenbank überführt, die inhaltliche Ähnlichkeit statt nur exakter Wortübereinstimmung erkennt.
Diese Umwandlung ist technisch gut automatisierbar, sobald die Dokumente in Schritt 1 sauber vorliegen — sie scheitert in der Praxis fast nie an der Technik, sondern an unsauberen Ausgangsdaten.
Schritt 3: Zugriffsrechte in die Suche einbauen
Nicht jede Person im Unternehmen darf jedes Dokument sehen — Gehaltsdaten, Verträge oder interne Strategiepapiere müssen von der Suche ausgeschlossen bleiben, wenn die anfragende Person keine Berechtigung dafür hat.
Diese Berechtigungslogik muss von Anfang an mitgebaut werden, nicht nachträglich, da ein Assistent ohne Rechteprüfung sonst sensible Inhalte an unberechtigte Personen ausgeben könnte.
Beispielrechnung: Aufwand für Dokumentenaufbereitung
Bei rund 2.000 vorhandenen Dokumenten mit geschätzt 20 % veralteten oder doppelten Inhalten bedeutet die Bereinigung häufig 2-4 Wochen Aufwand einer für Dokumentenmanagement zuständigen Person, bevor die eigentliche technische Umsetzung beginnt.
Wird dieser Schritt übersprungen, entstehen im laufenden Betrieb wiederholt falsche Antworten, die im Nachhinein aufwendiger zu beheben sind als die anfängliche Bereinigung.
Wann Eigenbau (noch) nicht sinnvoll ist
Bei sehr kleinen Dokumentenbeständen ohne laufende Aktualisierung oder wenn intern niemand die Verantwortung für die Datenpflege übernehmen kann, bleibt ein RAG-System schnell veraltet und verliert an Nutzen.
In diesen Fällen ist entweder eine einfache Dokumentenablage mit klassischer Suche oder eine extern betreute Lösung mit übernommener Datenpflege wirtschaftlicher.
Wann passt es — und wann eher nicht
Wann passt es
- Die Dokumente lassen sich in überschaubarer Zeit bereinigen und haben einen klaren Verantwortlichen für laufende Aktualität
- Zugriffsrechte auf Dokumentenebene sind bereits klar geregelt
- Es gibt internes Entwicklungs-Know-how für Vektordatenbank und Suchanbindung
Wann eher nicht
- Der Dokumentenbestand ist sehr klein oder wird ohnehin kaum aktualisiert
- Es gibt keine klare Verantwortung für die laufende Datenpflege nach dem Go-live
- Berechtigungsstrukturen zwischen Dokumenten sind unklar oder nicht dokumentiert
Haben Sie Fragen zum Thema?
Wir helfen Ihnen, den nächsten konkreten Schritt für Ihr Unternehmen zu finden.
Nächster Schritt
Bereit für Ihre KI-Infrastruktur?
Nextise begleitet Sie von der ersten Analyse bis zur produktiven Lösung. In 6–10 Wochen einsatzbereit.
Lassen Sie uns gemeinsam über Ihre KI-Transformation sprechen
