RAG is een AI-architectuur waarbij een systeem eerst relevante informatie uit een aparte kennisbank zoekt en die passages daarna meegeeft aan een generatief model. De afkorting staat voor retrieval-augmented generation. Het model hoeft uw handboeken, contracten of productinformatie daardoor niet uit zijn trainingsgeheugen te kennen.
RAG is nuttig wanneer kennis verspreid staat over documenten en regelmatig verandert. Het is geen waarheidsmachine. Als het systeem de verkeerde passage ophaalt, een verouderde versie vindt of een uitzondering verkeerd interpreteert, kan het antwoord nog steeds overtuigend fout zijn.
Wanneer RAG beter past dan een gewone chatbot
RAG verdient onderzoek als:
- medewerkers vaak dezelfde vragen beantwoorden vanuit veel documenten;
- antwoorden naar een controleerbare bron moeten verwijzen;
- kennis verandert zonder dat u een model opnieuw wilt trainen;
- verschillende gebruikers alleen hun eigen dossiers of afdelingen mogen doorzoeken;
- zoekvragen in gewone taal langer en gevarieerder zijn dan trefwoorden.
Gebruik liever gewone zoekfilters wanneer er weinig documenten zijn, exacte termen belangrijk zijn of gebruikers het originele document moeten lezen. Gebruik vaste softwarelogica wanneer het antwoord volledig door regels wordt bepaald. Fine-tuning kan stijl of taakgedrag aanpassen, maar is geen eenvoudige vervanging voor een actuele, citeerbare kennisbank.
De keten in zes stappen
- Innemen: documenten ophalen uit SharePoint, Drive, CMS, dossiers of andere goedgekeurde bronnen.
- Opschonen: dubbele, verlopen en onleesbare bestanden herkennen en metadata toevoegen.
- Verdelen en indexeren: documenten in bruikbare passages splitsen en doorzoekbaar maken.
- Ophalen: bij een vraag de waarschijnlijk relevante passages zoeken en eventueel opnieuw rangschikken.
- Genereren: het model laten antwoorden binnen de gevonden context en instructies.
- Tonen en loggen: bron, versie, antwoord, gebruiker en feedback controleerbaar bewaren.
Een mooie chatinterface is alleen de laatste laag. De kwaliteit wordt vaker bepaald door bronbeheer, rechten en retrieval dan door de formulering van de prompt.
Begin bij bronkwaliteit
Maak vóór de technische pilot een bronregister.
| Veld | Waarom nodig |
|---|---|
| Eigenaar | Wie beslist of het document geldig is? |
| Versie en geldigheidsdatum | Welke passage wint bij tegenspraak? |
| Vertrouwelijkheidsniveau | Wie mag de bron en afgeleide antwoorden zien? |
| Documenttype en taal | Hoe moet tekst worden uitgelezen en verdeeld? |
| Relatie tot andere bronnen | Is dit hoofdbeleid, bijlage, lokale uitzondering of archief? |
| Verwijder- en updateproces | Hoe verdwijnt verouderde kennis uit de index? |
Als twee procedures elkaar tegenspreken, kan RAG dat conflict zichtbaar maken maar niet zelfstandig bepalen welke bestuurlijk geldig is. Dat vraagt een eigenaar.
Toegangsrechten moeten vóór retrieval gelden
Filter niet pas nadat het model een antwoord heeft gemaakt. De zoeklaag mag alleen passages ophalen die de gebruiker zonder AI ook mocht openen. Anders kan een antwoord details lekken uit een document dat niet als citaat wordt getoond.
Test minimaal:
- medewerker A vraagt naar dossier van medewerker B;
- een gebruiker probeert via een slimme prompt een verborgen bron te laten samenvatten;
- een openbaar document linkt naar een vertrouwelijke bijlage;
- ingetrokken toegang blijft door cache of log toch beschikbaar;
- een document bevat instructies die zich voordoen als systeemopdracht.
Dat laatste is indirecte prompt injection. Behandel documenttekst als data, nooit als een wijziging van systeembeleid.
Bouw een evaluatieset vóór de demo
Verzamel vijftig tot honderd echte vragen voor een eerste afgebakende toepassing. Voeg per vraag het verwachte kernantwoord, de benodigde passages, toegestane bronnen per rol, belangrijke uitzonderingen en het gewenste gedrag bij ontbrekend bewijs toe.
Meet retrieval en antwoord afzonderlijk. Stonden de benodigde passages in de gevonden topresultaten? Bleef het antwoord bij die bronnen, noemde het de juiste uitzondering en citeerde het controleerbaar? Een goed geschreven antwoord met de verkeerde bron is geen succes.
Bronvermelding is noodzakelijk, maar niet voldoende
Een citaat bewijst dat een passage is gebruikt, niet dat de passage actueel of juist is en ook niet dat de conclusie logisch volgt. Laat de gebruiker daarom de exacte passage en documentmetadata openen. Markeer ontbrekend bewijs duidelijk en vul geen antwoord in uit algemeen modelgeheugen als de toepassing alleen interne bronnen toestaat.
Voor juridisch, financieel of veiligheidskritisch advies blijft deskundige beoordeling nodig.
De werkelijke kostenposten
De modelaanroep is vaak niet de grootste post. Begroot ook koppelingen en synchronisatie, OCR voor scans en tabellen, opslag en retrieval, identity management, evaluaties, redactioneel eigenaarschap, logging, beveiliging en incidentrespons.
Een pilot met dertig schone PDF's zegt weinig over productie met tienduizenden versies, bijlagen en rechten. Test daarom vroeg met de rommelige werkelijkheid.
Een veilige pilotarchitectuur
Beperk de eerste versie tot één afdeling, één bronset en alleen-lezen antwoorden. Toon altijd bronnen en bied “onvoldoende bewijs” als geldige uitkomst. Geef gebruikers een eenvoudige manier om een fout antwoord, verkeerde bron en ontbrekende kennis apart te melden.
Ga pas verder naar acties wanneer de kennisassistent aantoonbaar betrouwbaar zoekt. Lees eerst wat een AI-chatbot wel en niet kan en voer de AI-readinesscheck uit.
Go/no-go vóór productie
- Iedere bron heeft een eigenaar en geldigheidsstatus.
- Documentrechten worden in de retrievallaag afgedwongen.
- De evaluatieset bevat echte uitzonderingen.
- Bronpassages zijn direct te openen.
- Ontbrekend bewijs leidt tot weigering of escalatie.
- Updates en verwijderingen werken aantoonbaar door.
- Kosten, latency en foutpercentage blijven binnen vooraf gekozen grenzen.
- Een proceseigenaar volgt feedback en incidenten op.
RAG maakt bedrijfskennis beter bereikbaar wanneer bronbeheer al serieus wordt genomen. Zonder dat fundament maakt het vooral sneller een antwoord van dezelfde rommel die medewerkers nu al niet vertrouwen.