Glossar

RAG (Retrieval-Augmented Generation)

Retrieval-Augmented Generation (RAG) ist eine KI-Architektur, bei der ein grosses Sprachmodell seine Antworten nicht aus dem eigenen Trainingswissen generiert, sondern strikt aus einer definierten, aktuellen Dokumentenbasis abruft und anhand dieser Quellen begruendet. Das Ergebnis sind Antworten, die nachvollziehbar, pruefbar und quellenbelegbar sind, anstatt freier Generierung, die zu sogenannten Halluzinationen fuehren kann, also zu plausibel klingenden, aber faktisch falschen Aussagen.

Wie RAG funktioniert

RAG-Systeme arbeiten in zwei Schritten:

• Retrieval (Abruf): Die Anfrage einer Person wird in eine numerische Darstellung (Embedding) umgewandelt und gegen eine Vektordatenbank verglichen, in der alle relevanten Dokumente als Embeddings vorliegen. Die semantisch aehnlichsten Textstellen werden abgerufen.
• Generation (Antwortformulierung): Die abgerufenen Textstellen werden dem Sprachmodell als Kontext uebergeben. Das Modell formuliert eine Antwort ausschliesslich auf Basis dieser Textstellen, nicht aus seinem allgemeinen Trainingswissen. Jede Aussage kann auf eine konkrete Quelle zurueckgefuehrt werden.

Dieses Prinzip der strikten Quellenbindung unterscheidet RAG fundamental von einem allgemeinen KI-Assistenten, der Antworten frei aus seinen Trainingsdaten generiert.

Warum Quellenbindung in professionellen Anwendungen unverzichtbar ist

In professionellen, rechtlich relevanten oder sicherheitskritischen Umgebungen ist eine KI ohne Quellenbindung kaum einsetzbar. Wenn ein Sprachmodell frei antwortet, kann es Informationen erfinden oder veraltete Trainingsdaten verwenden. Fuer eine Sachbearbeiterin in einer Behoerde oder eine Fuehrungskraft, die sich auf das Wissensarchiv eines ausgeschiedenen Mitarbeiters verlaesst, ist das nicht akzeptabel.

RAG loest dieses Problem: Das Wissenssystem darf nur auf das zugreifen, was in der eigenen Wissensbasis vorhanden ist, und gibt bei Unklarheit an, welche Quelle welche Information liefert.

Abgrenzung: RAG und allgemeine KI-Assistenten

Ein allgemeiner KI-Chatbot beantwortet Fragen aus seinem Trainingswissen, das beliebige Internetquellen, Buecher und Daten umfasst und ein festes Trainingsdatum hat. Er kann keine organisationsspezifischen Fragen aus dem Unternehmensarchiv beantworten, weil er darauf keinen Zugriff hat. RAG hingegen wird mit den eigenen Dokumenten der Organisation betrieben: dem Wissensinterview, den hochgeladenen Dokumenten, den Diktataufnahmen. Es antwortet ausschliesslich auf dieser Grundlage.

Souveraenitaet und Datenschutz bei RAG

Fuer Organisationen, die sensible Informationen verwalten, also Behoerden, Gesundheitseinrichtungen oder Unternehmen mit vertraulichen Geschaeftsdaten, ist die Frage entscheidend, wo die Dokumentenbasis gespeichert ist und wer Zugriff auf die Embeddings hat. In souveraenen RAG-Loesungen laufen sowohl die Embedding-Berechnung als auch die Vektordatenbank und das Sprachmodell auf eigener Infrastruktur. Kein Dokument verlaesst die Organisation.

RAG in Erfaro

Erfaro setzt RAG als Kern seiner Wissenssuche ein. Alle erfassten Interviewantworten, Dokumente und Diktate werden als Embeddings in einer lokalen Vektordatenbank abgelegt. Wenn ein Nachfolger eine Frage an das Wissenssystem stellt, ruft RAG die relevantesten Passagen ab und formuliert eine Antwort mit strikter Quellenbindung, so dass jede Aussage auf den originalen Interviewtext oder das hochgeladene Dokument zurueckgefuehrt werden kann. Das Embedding-Verfahren laeuft dabei immer lokal, unabhaengig vom gewaaehlten Tier. Mehr zur Souveraenitaet bei Erfaro: DSGVO-konformer Wissenstransfer und zur Praxis: Wissenstransfer beim Mitarbeiteraustritt.

Haeufige Fragen