Worum es in dieser Phase geht
Hier entsteht das, was die meisten Menschen für „die KI" halten, obwohl der eigentliche Hebel woanders liegt: In einem Retrieval-System entscheidet die Suchqualität über die Antwortqualität. Ein hervorragendes Sprachmodell auf schlechtem Retrieval liefert überzeugend formulierten Unsinn.
Die Bausteine sind bekannt und in RAG erklärt im Detail beschrieben: Zerlegung der Dokumente in sinnvolle Abschnitte, Indexierung, Suche, Nachsortierung der Treffer, Antwortgenerierung mit Quellenangabe. Was die Umsetzung im Industriebetrieb besonders macht, sind zwei Anforderungen.
Erstens Berechtigungen: Nicht jeder darf jede Antwort bekommen. Personalunterlagen, Kalkulationen und Kundenverträge liegen im selben Bestand wie Arbeitsanweisungen. Die Rechteprüfung gehört in den Suchschritt — nicht in den Prompt.
Zweitens Belegbarkeit: In einem regulierten Umfeld ist eine Antwort ohne nachlesbare Quelle wertlos, weil niemand sie verantworten kann. Jede Aussage muss auf ein Dokument mit Stand und Fundstelle zurückführbar sein.
Kernaussagen
Was am Ende der Phase vorliegt
- Ein durchsuchbarer Index über die priorisierten Bestände
- Rechteprüfung im Suchschritt, abgeleitet aus den bestehenden Berechtigungen der Quellsysteme
- Antworten mit Quellenangabe inklusive Dokumentstand
- Ein Testdatensatz aus echten Fragen, an dem sich Änderungen messen lassen
Typische Stolpersteine
- Berechtigungen werden nachgelagert geprüft statt beim Retrieval — was im Kontext liegt, gibt das Modell früher oder später wieder
- Zu große oder strukturblinde Textabschnitte: Der gefundene Kontext enthält die Antwort nicht mehr vollständig
- Reine Vektorsuche ohne Stichwortsuche — bei Artikelnummern, Normbezeichnungen und Anlagenkürzeln bricht sie ein
- Kein Testdatensatz: Ohne Vergleichsmaßstab lässt sich nicht unterscheiden, ob eine Änderung geholfen oder geschadet hat
Beiträge zu dieser Phase
Zu dieser Phase sind noch keine Beiträge erschienen. Die Reihe entsteht parallel zur Umsetzung — neue Beiträge kommen laufend dazu.
Weiterführend
Geschrieben von
Christian Ohle
KI-Entwickler & Online-Marketer · seit 2005 im Web
Seit 2005 mit dem Web: Online-Marketing, Coding, lokale KI. Schreibt hier über Unternehmens-KI, Wissensmanagement, RAG, KI-Agenten und Automatisierung — alles selbst gebaut und getestet, inklusive der Setups, die nicht funktioniert haben.
christianohle.de ist ein persönliches Projekt — kein Beratungsangebot, keine Agentur und keine Akquise-Plattform. Mehr dazu.