RAG steht für Retrieval-augmented Generation. Es ist eine KI-Methode, die relevante Informationen aus einer externen Quelle abruft und einem Sprachmodell als Kontext übergibt, sodass die erzeugte Antwort in diesem Material verankert ist statt allein in den Trainingsdaten des Modells.

Wie unterscheidet sich RAG vom Fine-Tuning?

Fine-Tuning ändert die Gewichte eines Modells, indem es mit neuen Daten weitertrainiert wird; RAG lässt das Modell unverändert und liefert stattdessen zur Anfragezeit relevante Dokumente. RAG lässt sich schneller aktualisieren und eignet sich besser für häufig wechselnde Fakten, während Fine-Tuning dazu dient, einen dauerhaften Stil oder eine Fähigkeit beizubringen.

Verhindert RAG, dass KI halluziniert?

Es verringert Halluzinationen, beseitigt sie aber nicht. Indem es Antworten in abgerufenen Passagen verankert, macht RAG erfundene Details unwahrscheinlicher, doch das Modell kann den Kontext dennoch falsch deuten oder der Abruf die richtige Quelle verfehlen — menschliche Prüfung bleibt daher wichtig.

Retrieval-augmented Generation (RAG)

Große Sprachmodelle erzeugen flüssigen Text aus Mustern, die sie während des Trainings gelernt haben, doch sie kennen von sich aus weder Ihre Dokumente noch Ihre neuesten Zahlen oder Fakten, die nach ihrem Trainingsstichtag entstanden sind. Retrieval-augmented Generation schließt diese Lücke, indem sie das Modell nachschlagen lässt, bevor es antwortet, sodass jede Antwort in einer von Ihnen kontrollierten Quelle verankert ist statt allein im Gedächtnis.

Wie RAG funktioniert

Ein RAG-System hat zwei Stufen. Zuerst der Abruf: Die Anfrage wird in ein Vektor-Embedding umgewandelt und mit einer Wissensquelle abgeglichen — oft einer Vektordatenbank aus Dokumentabschnitten —, um die relevantesten Passagen herauszuholen. Dann die Generierung: Diese Passagen werden als Kontext in den Prompt des Modells eingefügt, und das Modell schreibt eine darauf gestützte Antwort. Das Ergebnis ist Text, der konkretes Material widerspiegelt statt einer bloßen Vermutung.

Warum es wichtig ist

Der Abruf hält Antworten korrekt und aktuell, ohne das Modell neu zu trainieren, was langsam und teuer ist. Weil die Antwort an abgerufenem Text verankert ist, reduziert RAG Halluzinationen und lässt ein allgemeines Modell zu privatem oder sich schnell änderndem Wissen sprechen — den Richtlinien eines Unternehmens, einem Produktkatalog, einer Supporthistorie. Zudem werden Antworten transparenter, da die zugrunde liegenden Passagen angezeigt und geprüft werden können.

So funktioniert es in DraftKite

DraftKite nutzt RAG in seiner optionalen Wissensdatenbank. Sie laden Dokumente hoch — FAQs, Preise, Produktfakten — und DraftKite zerlegt sie und bettet sie in einen Vektorspeicher ein. Trifft eine neue E-Mail ein, ruft es die für genau diese Nachricht relevantesten Passagen ab und fügt sie als Kontext hinzu, bevor es eine Antwort entwirft, sodass der Entwurf Ihre eigenen Informationen widerspiegelt. Der Entwurf wartet weiterhin in Ihrem Entwurfsordner, bis Sie ihn prüfen und senden.