RAG står for retrieval-augmented generation. Det er en AI-metode som henter relevant informasjon fra en ekstern kilde og gir den til en språkmodell som kontekst, slik at det genererte svaret forankres i det materialet i stedet for modellens treningsdata alene.

Hvordan skiller RAG seg fra finjustering?

Finjustering endrer en models vekter ved å trene den videre på nye data; RAG lar modellen være uendret og leverer i stedet relevante dokumenter på forespørselstidspunktet. RAG er raskere å oppdatere og bedre for fakta som ofte endrer seg, mens finjustering egner seg til å lære en varig stil eller ferdighet.

Stopper RAG AI fra å hallusinere?

Det reduserer hallusinasjoner, men fjerner dem ikke. Ved å forankre svar i hentede passasjer gjør RAG oppdiktede detaljer mindre sannsynlige, men modellen kan fortsatt feiltolke konteksten, eller hentingen kan bomme på rett kilde, så menneskelig gjennomgang forblir viktig.

Retrieval-augmented generation (RAG)

Store språkmodeller genererer flytende tekst ut fra mønstre de har lært under treningen, men de kjenner ikke i seg selv dine dokumenter, dine nyeste tall eller fakta som har oppstått etter treningsgrensen deres. Retrieval-augmented generation lukker det gapet ved å la modellen slå opp før den svarer, slik at hvert svar forankres i en kilde du styrer i stedet for hukommelsen alene.

Slik fungerer RAG

Et RAG-system har to trinn. Først henting: brukerens forespørsel gjøres om til en vektor-embedding og sammenlignes med en kunnskapskilde — ofte en vektordatabase av dokumentavsnitt — for å hente frem de mest relevante passasjene. Deretter generering: passasjene settes inn i modellens prompt som kontekst, og modellen skriver et svar betinget av dem. Resultatet er tekst som gjenspeiler konkret materiale i stedet for en kvalifisert gjetning.

Hvorfor det betyr noe

Henting holder svarene presise og oppdaterte uten å trene modellen på nytt, noe som er tregt og dyrt. Fordi svaret er forankret i hentet tekst, reduserer RAG hallusinasjoner og lar en generell modell snakke om privat eller raskt skiftende kunnskap — en bedrifts retningslinjer, en produktkatalog, en supporthistorikk. Det gjør også svarene mer gjennomsiktige, siden de underliggende passasjene kan vises og kontrolleres.

Slik virker det i DraftKite

DraftKite bruker RAG i sin valgfrie kunnskapsbase. Du laster opp dokumenter — vanlige spørsmål, priser, produktfakta — og DraftKite deler dem opp og bygger dem inn i et vektorlager. Når en ny e-post kommer inn, henter den de passasjene som er mest relevante for nettopp den meldingen, og legger dem til som kontekst før den skriver et utkast, slik at utkastet gjenspeiler din egen informasjon. Utkastet venter fortsatt i kladdemappen din til du gjennomgår det og sender.