Fine-tuning verandert hoe een model iets doet, en nauwelijks wat het weet. Dat is het misverstand achter de meeste vragen erover. Wie wil dat een assistent zijn prijzen, producten of handleiding kent, traint het model niet bij, maar geeft het die informatie mee bij elke vraag. Dat heet RAG, de techniek achter een AI-chatbot die antwoordt uit je eigen info: goedkoper, meteen bij te werken, en met de bron bij elk antwoord.
Bijtrainen zelf is ouder dan ChatGPT. In 2018 lieten Jeremy Howard en Sebastian Ruder zien dat je een taalmodel dat algemene tekst kent, met weinig extra voorbeelden kan bijsturen voor een specifieke taak. Ook de chatbots zelf zijn zo gemaakt: een basismodel, bijgetraind op gesprekken en op oordelen van mensen. Bedrijven kregen daarna zelf die mogelijkheid, maar het aanbod krimpt: OpenAI bouwt zijn fine-tuningplatform af, en nieuwe modellen komen met een goede instructie vaak even ver.
Prompt, RAG of bijtrainen
| Een goede prompt | RAG | Fine-tuning | |
|---|---|---|---|
| Wat het verandert | Wat het model in deze vraag doet | Wat het model weet bij deze vraag | Hoe het model zich altijd gedraagt |
| Bijwerken | Meteen | Een document vervangen | Opnieuw trainen |
| Bron tonen | Ja, als je ze meegeeft | Ja, per antwoord | Nee |
| Starten | Bijna niets | Dagen werk | Weken werk, honderden voorbeelden |
De volgorde is bijna altijd dezelfde: eerst een betere prompt met een paar voorbeelden, dan RAG als het model je eigen informatie nodig heeft, en pas bijtrainen als beide niet volstaan. Hoe je een goede instructie schrijft, lees je bij prompt.
Waar de kennis zit, en wat bijwerken kost
Promptkennis in de vraag
Startenlicht
Bijwerkenlicht
Bron tonenja
RAGkennis in je documenten
Startenmiddel
Bijwerkenlicht
Bron tonenja
Fine-tuningkennis in het model
Startenzwaar
Bijwerkenzwaar
Bron tonennee
Onze inschatting. Bijwerken bij RAG is een document vervangen; bij fine-tuning opnieuw trainen.
Wat een training echt kost
De training is dus het goedkope deel. De echte kost zit elders. Iemand moet die vijfhonderd goede voorbeelden maken en nakijken, en opnieuw elke keer dat je aanbod verandert. Je zit vast aan een ouder model terwijl nieuwe generaties beter en goedkoper worden. En een bijgetraind model kan niet tonen waar een antwoord vandaan komt, wat hallucinaties moeilijker te vangen maakt. Wat een model per gesprek kost, reken je uit met de AI-kostentool.
Wanneer bijtrainen wel loont
- Een vaste vorm op grote schaalDuizenden productomschrijvingen per maand in exact dezelfde structuur, of tekst die altijd in een strak formaat moet staan.
- Een kleine, snelle taakFacturen automatisch verwerken of mails indelen in tien categorieën, waar een klein bijgetraind model even goed is als een groot en veel goedkoper per stuk.
- Een toon die je met voorbeelden niet krijgtZelden nodig: de huidige modellen volgen een stijl goed met een paar voorbeelden in de prompt.
Voor wat de meeste kmo's willen, een assistent die hun eigen informatie kent, is een eigen ChatGPT op basis van RAG de betere keuze. Hoe een taalmodel werkt, lees je bij LLM, en hoe je zo'n project aanpakt in AI implementeren in je bedrijf.
Je gegevens bij het bijtrainen
Bij de zakelijke API's van de grote aanbieders worden trainingsgegevens niet gebruikt voor andere klanten, maar lees de voorwaarden. Zet nooit persoonsgegevens in voorbeelden die je niet mag delen, en bewaar je trainingsset zelf: zonder die set kan je nooit overstappen naar een nieuw model.
Wat bedrijven vragen voor ze een model bijtrainen
Kan ik ChatGPT trainen op mijn bedrijf?
Je kan een eigen GPT of project maken met je documenten, of een systeem laten bouwen dat je documenten doorzoekt. Dat is geen fine-tuning, maar het doet wat de meeste bedrijven bedoelen.
Hoeveel voorbeelden heb je nodig?
Aanbieders noemen enkele tientallen als minimum, maar voor een merkbaar en stabiel resultaat zijn het er meestal honderden, allemaal juist en consequent.
Wat gebeurt er met mijn bijgetraind model als de aanbieder een nieuw model uitbrengt?
Niets: je blijft op het oude model. Wil je de voordelen van het nieuwe, dan train je opnieuw met je eigen set. Daarom bewaar je die zorgvuldig.