Op deze pagina
Waarom een taalmodel je prijslijst niet kent
Met RAG antwoordt een AI-assistent uit jouw handleidingen, offertes en procedures in plaats van uit zijn geheugen. Dat geheugen is wat een taalmodel tijdens zijn training leerde: veel algemene kennis, maar niets over de afspraak die je vorige maand met een leverancier maakte. Vraag je zo'n model toch naar je eigen tarieven, dan krijg je een antwoord dat aannemelijk klinkt en niet klopt. Dat heet een hallucinatie.
Vergelijk het met een examen met open boek. Het model blijft hetzelfde, maar krijgt bij elke vraag de juiste bladzijden voor zich. Het idee komt uit een paper van Patrick Lewis en elf collega's, met onderzoekers van Facebook AI, die in mei 2020 online kwam. Facebook AI schreef er in september 2020 bij wat het voor bedrijven betekent: je verandert wat het systeem weet door de documenten te wisselen, zonder het model opnieuw te trainen. Dat is vandaag de gangbare manier om AI op bedrijfsinformatie te laten werken.
Vijf stappen tussen een vraag en een antwoord met bron
- Opknippen. Je documenten worden stukken van hooguit een paar honderd tokens, ongeveer een alinea of een halve pagina, elk met de bron erbij.
- Omzetten in getallen. Een embeddingmodel maakt van elk stuk een reeks getallen die de betekenis vat; bij Voyage AI standaard 1.024 getallen. Stukken over hetzelfde onderwerp krijgen reeksen die dicht bij elkaar liggen.
- Opslaan. Tekst, bron en getallen gaan samen in een databank die op gelijkenis zoekt.
- Zoeken. Een vraag wordt ook een reeks getallen, en het systeem haalt de stukken op die er het dichtst bij liggen. Een tweede zoekopdracht op exacte woorden vangt typenummers en foutcodes, die een betekenisvergelijking soms mist.
- Antwoorden. De beste drie tot tien stukken gaan met de vraag naar het model, met de opdracht om alleen daaruit te antwoorden en de bron te noemen. Hoe je die opdracht schrijft, lees je bij prompt.
Het zoeken bepaalt de kwaliteit, niet het model. Anthropic mat dat stukken met een zin context erbij, plus zoeken op exacte woorden, 49 procent minder mislukte zoekopdrachten gaven; met een extra sorteerstap (reranking) 67 procent minder.
Inlezen gebeurt een keer, opzoeken bij elke vraag
Een keer per document: inlezen
- 2.000 pagina'sDocumentenHandleidingen van veertig toestellen en drie jaar offertes.
- OpknippenStukkenEen alinea of halve pagina per stuk, met de bron erbij.
- EmbeddingGetallenElk stuk wordt een reeks van 1.024 getallen die de betekenis vat.
- IndexDatabankTekst, bron en getallen samen, doorzoekbaar op gelijkenis.
Bij elke vraag: zoeken, dan antwoorden
Foutcode F28 op de wandketel van de familie Peeters, wat nu?
Handleiding wandketel, p. 140,86
De pagina over F28: geen ontsteking.
Offerte Peeters, 20250,79
Welk type er hangt en sinds wanneer.
Handleiding boiler, p. 30,52
Procedure retourzending0,31
Alleen de stukken boven de lijn gaan mee naar het model
F28 betekent dat de ketel niet ontsteekt. Controleer eerst of de gaskraan open staat en reset dan een keer; komt de fout terug, vervang de ontstekingselektrode.
- Handleiding wandketel, p. 14
- Offerte Peeters, 2025
Het model blijft hetzelfde. Wat verandert, zijn de stukken die het bij elke vraag te lezen krijgt.
Een installateur met 2.000 pagina's handleidingen
Stel: een installateur van verwarming heeft handleidingen van veertig toestellen en drie jaar offertes, samen 2.000 pagina's. Zijn techniekers bellen elke dag naar kantoor met dezelfde vragen. Met RAG typt een techneut aan de ketel: "Foutcode F28 op de wandketel van de familie Peeters, wat nu?" Het systeem vindt pagina 14 van de handleiding van dat type en de offerte waarin staat welk toestel er hangt. Het antwoord noemt beide bronnen, zodat hij het in tien seconden nakijkt.
Komt er een nieuw toestel bij, dan lees je die handleiding in. Niemand hertraint iets. Dat is het grote verschil met fine-tuning.
Opzoeken, bijtrainen of alles meesturen
| Aanpak | Wat het doet | Kies het als | Wat je betaalt |
|---|---|---|---|
| RAG | Zoekt per vraag de passende stukken en geeft alleen die aan het model | Je meer dan een paar honderd pagina's hebt die blijven veranderen | Eenmalig inlezen, daarna per vraag een paar duizend tokens |
| Alles in de prompt | Stuurt bij elke vraag de volledige kennisbank mee | Je kennis onder ongeveer 500 pagina's blijft, zoals een prijslijst en tien procedures | Per vraag de hele tekst, goedkoper met prompt caching |
| Fine-tuning | Traint een model bij op voorbeelden, zodat het een stijl of vorm aanleert | Je een vaste schrijfstijl of uitvoer wilt, geen nieuwe feiten | Een trainingsronde plus duurder gebruik, opnieuw bij elke wijziging |
| Een gewone chatbot | Antwoordt uit zijn training en wat je erin plakt | Je algemene teksten schrijft zonder eigen gegevens; zie ChatGPT of Claude | Een abonnement per gebruiker |
Fine-tuning leert een model hoe het moet schrijven; RAG geeft het wat het moet weten. Feiten die veranderen, zoals prijzen, voorraad en regels, horen dus in RAG.
De rekening per vraag: meestal centen
Voor de installateur hierboven, in dollar zonder btw:
| Post | Hoe gerekend | Kost |
|---|---|---|
| 2.000 pagina's inlezen, eenmalig | ongeveer 800.000 tokens met voyage-4 aan 0,06 dollar per miljoen | 5 dollarcent, en de eerste 200 miljoen tokens zijn gratis |
| Een vraag met Claude Sonnet 5.5 | 3.000 tokens in (vraag, instructie, vijf stukken) en 400 tokens uit | ongeveer 1 dollarcent |
| Dezelfde vraag met Claude Haiku 5.5 | zelfde tokens, aan 0,10 en 0,50 dollar per miljoen | ongeveer 0,05 dollarcent |
| 1.000 vragen per maand | Sonnet 5.5 | ongeveer 10 dollar |
| Alles in de prompt, ter vergelijking | 200.000 tokens per vraag uit de cache van Sonnet 5.5 | ongeveer 2,4 dollarcent per vraag |
Het model is dus zelden de grote post. Het echte werk zit in documenten opkuisen, gescande PDF's leesbaar maken, rechten per medewerker instellen en testen tot de antwoorden kloppen. Reken je eigen volume uit met de AI-kostencalculator; wat de bouw zelf kost, staat in wat kost een AI-chatbot.
Laat de assistent zeggen dat hij het niet weet
Vindt het zoeken het juiste stuk niet, dan kan het model nog altijd iets aannemelijks schrijven. Geef het de opdracht om te zeggen dat het antwoord niet in de documenten staat, toon bij elk antwoord de bron, en test op vijftig echte vragen van je team voor iemand er blind op vertrouwt.
Waar een assistent op eigen documenten de mist ingaat
- Gescande PDF's zonder tekstEen scan is een foto; zonder tekstherkenning vindt het systeem er niets in.
- Tabellen die in stukken vallenEen prijstabel die over twee stukken verdeeld raakt, geeft halve antwoorden. Knip op kopjes en houd tabellen heel.
- Oude versies naast nieuweStaan de tarieven van 2024 en 2026 er allebei in, dan kiest het model soms de verkeerde. Houd een bron per onderwerp.
- Iedereen ziet allesEen assistent die ook in loonfiches zoekt, moet weten wie de vraag stelt. Rechten horen in het zoeken, niet in de prompt.
- Documenten van buitenEen PDF van een leverancier kan verborgen instructies bevatten; zie prompt injection.
- PersoonsgegevensVerwerkt een aanbieder je documenten, dan heb je een verwerkersovereenkomst nodig. Het volledige stappenplan staat in AI implementeren in je bedrijf.
Klaar voor een proef? Dit leg je klaar
- Vijftig echte vragen die je team de voorbije maand stelde, met het juiste antwoord erbij.
- De documenten waar die antwoorden in staan, in de laatste versie en als tekst, niet als scan.
- Een lijst van wie wat mag zien: kantoor, techniekers, management.
- De vraag welke aanbieder je gegevens verwerkt en in welke regio.
- Een afspraak wat er gebeurt als het antwoord niet in de documenten staat.
Vragen voor je een assistent op je eigen documenten zet
Moet ik een eigen AI-model laten trainen?
Bijna nooit. Je gebruikt een bestaand model en geeft het bij elke vraag de juiste stukken. Een nieuwe handleiding inlezen kost een paar cent; een model bijtrainen kost dagen en moet bij elke wijziging opnieuw.
Vanaf hoeveel documenten heb ik dit nodig?
Onder ongeveer 500 pagina's kan je de hele tekst bij elke vraag meesturen, zeker met prompt caching. Daarboven, of als de documenten vaak veranderen, wordt opzoeken goedkoper en sneller.
Blijven mijn documenten privé?
Dat hangt af van waar je het bouwt. Kies een omgeving waarin je gegevens niet gebruikt worden om modellen te trainen, sluit een verwerkersovereenkomst met de aanbieder en stel rechten per medewerker in, zodat een stagiair geen loonfiches te zien krijgt.
Werkt het ook met documenten in verschillende talen?
Ja. Een meertalig embeddingmodel legt betekenis dicht bij elkaar, ook als de woorden verschillen. Een vraag in het Nederlands vindt zo een Franse handleiding, en het antwoord komt in de taal van de vraag.