Sprachmodelle wissen viel über die Welt – aber nichts über Ihr Unternehmen. Retrieval Augmented Generation, kurz RAG, schließt diese Lücke: Bevor das Modell antwortet, werden die passenden Passagen aus Ihren eigenen Dokumenten gesucht und als Kontext mitgegeben. Die Antwort basiert damit auf Ihrem Wissen und lässt sich über die Quellenangabe jederzeit überprüfen.
Worauf es in der Praxis ankommt
- Datenqualität: Veraltete oder widersprüchliche Dokumente führen zu schlechten Antworten. Die Aufbereitung der Quellen ist der wichtigste Schritt.
- Berechtigungen: Der Assistent darf nur zeigen, was die fragende Person auch sehen darf.
- Qualitätsmessung: Mit Testfragen und Bewertungen wird die Antwortqualität kontinuierlich überwacht.