RAG (Retrieval Augmented Generation)

Hoe werkt RAG?

RAG combineert twee onderdelen: een retriever (het onderdeel dat zoekt) en een generator (het onderdeel dat het antwoord schrijft). De retriever zoekt relevante informatie op uit een kennisbron, zoals een documentendatabase of vector store (een database die teksten opslaat op basis van betekenis in plaats van exacte woorden). De generator, een taalmodel, gebruikt die opgehaalde context samen met de oorspronkelijke vraag om een antwoord te formuleren. Het model zoekt dus voordat het spreekt.

In essentie geeft RAG de generator extra context: relevante informatie die niet in het model zelf zit, maar wel nodig is om de vraag goed te beantwoorden. Brongegevens worden hiervoor in stukken (chunks) verdeeld en omgezet naar een doorzoekbaar formaat (embeddings: een soort digitale vingerafdruk van de betekenis van een tekst), meestal opgeslagen in een vectordatabase (een database die daarop gespecialiseerd is).

Stel dat een klant vraagt naar de garantietermijn van een product: de retriever vindt het relevante beleidsdocument, en de generator formuleert daarmee een antwoord in gewone taal, in plaats van het hele document terug te sturen.

Wat is het verschil tussen RAG en een taalmodel finetunen?

Het kernverschil is dat je bij finetunen (het model opnieuw trainen op nieuwe voorbeelden) het model moet hertrainen zodra de informatie verandert, terwijl bij RAG de kennisbank los staat van de trainingsset (de gegevens waarmee het model oorspronkelijk is getraind). Verander je een prijs, een beleidstekst of een product, dan pas je bij RAG alleen de kennisbank aan: er is geen nieuwe trainingsronde nodig. Dat maakt RAG flexibeler, actueler en doorgaans kostenefficiënter dan finetunen, vooral wanneer de onderliggende informatie regelmatig wijzigt.

Bij een prijswijziging betekent finetunen dat je het model opnieuw moet trainen op nieuwe voorbeelden, wat kostbaar is en tijd kost. Bij RAG werk je alleen de kennisbank bij: de eerstvolgende vraag krijgt meteen de juiste prijs als antwoord.

In onderstaande tabel staan RAG en finetunen naast elkaar op de belangrijkste punten.

Waarom vermindert RAG hallucinaties?

RAG vermindert hallucinaties (het verzinnen van onjuiste, overtuigend klinkende informatie door een AI-model) omdat het model zijn antwoord baseert op daadwerkelijk opgehaalde bronnen, in plaats van alleen op wat het onthouden heeft. Het model kan bovendien de gebruikte bron vermelden, vergelijkbaar met een voetnoot in een onderzoeksrapport, zodat een lezer de bewering zelf kan controleren. Dat maakt RAG een van de weinige AI-technieken die transparantie als bijvangst heeft.

Dat betekent niet dat RAG hallucinaties volledig uitsluit: het model kan de opgehaalde context nog altijd verkeerd interpreteren of samenvatten. Het vermindert het risico aanzienlijk, maar vervangt geen menselijke controle bij belangrijke beslissingen.

Waarvoor gebruik je RAG?

RAG wordt vooral ingezet waar een AI-systeem moet antwoorden op basis van actuele of bedrijfsspecifieke informatie. Denk aan een bedrijfschatbot die interne documenten en beleidsteksten raadpleegt, klantenservice die actuele productinformatie ophaalt, of een AI die antwoordt op basis van je eigen prijslijst: je voegt de prijslijst toe aan de kennisbank, en de AI toont die vervolgens correct aan klanten.

Ook bij interne kennisdeling is RAG bruikbaar: nieuwe medewerkers stellen vragen aan een chatbot die antwoordt op basis van het actuele personeelshandboek, in plaats van een verouderde PDF te moeten doorzoeken.

Overweeg je RAG voor je bedrijf? Bekijk onze GEO-dienst of lees meer over AI-modellen en chatbots.