Retrieval-augmented generation (RAG)

Retrieval-augmented generation (RAG) är en AI-teknik som kombinerar en stor språkmodell med ett söksteg. Innan modellen genererar text hämtar systemet relevanta textavsnitt från en extern kunskapskälla och ger dem till modellen som kontext, så att svaren förblir förankrade i konkret, aktuell information i stället för modellens minne enbart.

Stora språkmodeller genererar flytande text utifrån mönster de lärt sig under träningen, men de känner inte i sig till dina dokument, dina senaste siffror eller fakta som uppstått efter deras träningsgräns. Retrieval-augmented generation stänger det gapet genom att låta modellen slå upp innan den svarar, så att varje svar förankras i en källa du styr i stället för minnet enbart.

Så fungerar RAG

Ett RAG-system har två steg. Först hämtning: användarens fråga omvandlas till en vektor-embedding och jämförs med en kunskapskälla — ofta en vektordatabas med dokumentavsnitt — för att ta fram de mest relevanta passagerna. Sedan generering: passagerna infogas i modellens prompt som kontext, och modellen skriver ett svar betingat av dem. Resultatet är text som speglar konkret material i stället för en kvalificerad gissning.

Varför det spelar roll

Hämtning håller svaren korrekta och aktuella utan att träna om modellen, vilket är långsamt och dyrt. Eftersom svaret är förankrat i hämtad text minskar RAG hallucinationer och låter en generell modell tala om privat eller snabbt föränderlig kunskap — ett företags policyer, en produktkatalog, en supporthistorik. Det gör också svaren mer transparenta, eftersom de underliggande passagerna kan visas och kontrolleras.

Så fungerar det i DraftKite

DraftKite använder RAG i sin valfria kunskapsbas. Du laddar upp dokument — vanliga frågor, priser, produktfakta — och DraftKite delar upp dem och bäddar in dem i ett vektorlager. När ett nytt e-postmeddelande kommer in hämtar den de passager som är mest relevanta för just det meddelandet och lägger till dem som kontext innan den skriver ett utkast, så att utkastet speglar din egen information. Utkastet väntar fortfarande i din utkastmapp tills du granskar det och skickar.

Vanliga frågor

RAG står för retrieval-augmented generation. Det är en AI-metod som hämtar relevant information från en extern källa och ger den till en språkmodell som kontext, så att det genererade svaret förankras i det materialet i stället för modellens träningsdata enbart.

Finjustering ändrar en models vikter genom att träna den vidare på nya data; RAG lämnar modellen oförändrad och levererar i stället relevanta dokument vid frågetillfället. RAG är snabbare att uppdatera och bättre för fakta som ändras ofta, medan finjustering passar för att lära ut en varaktig stil eller färdighet.

Det minskar hallucinationer men tar inte bort dem. Genom att förankra svar i hämtade passager gör RAG påhittade detaljer mindre sannolika, men modellen kan ändå misstolka kontexten eller hämtningen missa rätt källa, så mänsklig granskning förblir viktig.