Retrieval-augmented generation (RAG)

Retrieval-augmented generation (RAG) er en AI-teknik, der kombinerer en stor sprogmodel med et søgetrin. Før modellen genererer tekst, henter systemet relevante tekststykker fra en ekstern videnskilde og giver dem til modellen som kontekst, så svarene forbliver forankret i konkrete, aktuelle oplysninger frem for modellens hukommelse alene.

Store sprogmodeller genererer flydende tekst ud fra mønstre, de har lært under træningen, men de kender ikke i sig selv dine dokumenter, dine nyeste tal eller fakta, der er opstået efter deres træningsgrænse. Retrieval-augmented generation lukker det hul ved at lade modellen slå op, før den svarer, så hvert svar forankres i en kilde, du styrer, i stedet for hukommelsen alene.

Sådan fungerer RAG

Et RAG-system har to trin. Først hentning: brugerens forespørgsel omdannes til en vektor-embedding og sammenlignes med en videnskilde — ofte en vektordatabase af dokumentstykker — for at trække de mest relevante passager frem. Dernæst generering: passagerne indsættes i modellens prompt som kontekst, og modellen skriver et svar betinget af dem. Resultatet er tekst, der afspejler konkret materiale i stedet for et kvalificeret gæt.

Hvorfor det betyder noget

Hentning holder svarene præcise og aktuelle uden at gentræne modellen, hvilket er langsomt og dyrt. Fordi svaret er forankret i hentet tekst, reducerer RAG hallucinationer og lader en generel model tale til privat eller hurtigt skiftende viden — en virksomheds politikker, et produktkatalog, en supporthistorik. Det gør også svarene mere gennemsigtige, da de underliggende passager kan vises og kontrolleres.

Sådan virker det i DraftKite

DraftKite bruger RAG i sin valgfrie videnbase. Du uploader dokumenter — FAQ'er, priser, produktfakta — og DraftKite deler dem op og embedder dem i et vektorlager. Når en ny e-mail ankommer, henter den de passager, der er mest relevante for netop den besked, og tilføjer dem som kontekst, før den skriver et udkast, så udkastet afspejler dine egne oplysninger. Udkastet venter stadig i din kladdemappe, til du gennemser det og sender.

Ofte stillede spørgsmål

RAG står for retrieval-augmented generation. Det er en AI-metode, der henter relevante oplysninger fra en ekstern kilde og giver dem til en sprogmodel som kontekst, så det genererede svar forankres i det materiale frem for modellens træningsdata alene.

Finjustering ændrer en models vægte ved at træne den videre på nye data; RAG lader modellen være uændret og leverer i stedet relevante dokumenter på forespørgselstidspunktet. RAG er hurtigere at opdatere og bedre til fakta, der ofte ændrer sig, mens finjustering egner sig til at lære en varig stil eller færdighed.

Det reducerer hallucinationer, men fjerner dem ikke. Ved at forankre svar i hentede passager gør RAG opdigtede detaljer mindre sandsynlige, men modellen kan stadig fejllæse konteksten, eller hentningen kan ramme forkert, så menneskelig gennemgang forbliver vigtig.