Op deze pagina
Wat je typt, en alles wat je meestuurt
Een prompt bepaalt meer dan het model zelf hoe goed het antwoord van een AI is. Typ je in ChatGPT 'vat deze mail samen', dan is dat je prompt. Bouwt een ontwikkelaar een chatbot voor je site, dan schrijft hij een vaste prompt die bij elke vraag van een bezoeker meegaat, met wie de chatbot is, wat hij mag en waar hij zijn antwoorden haalt.
Prompt engineering is het vak daarachter. OpenAI omschrijft het als het schrijven van doeltreffende instructies voor een model, zodat het consequent inhoud maakt die aan je eisen voldoet. Het woord consequent is de kern: een prompt die een keer een goed antwoord geeft, is nog geen goede prompt.
De souffleur, en dan het taalmodel
Prompt komt uit het Engels en het theater: wie een acteur zijn tekst voorzegt, prompt hem, de souffleur. Woordenboeken als Cambridge geven er intussen een tweede betekenis bij: een instructie geven aan een AI. De verschuiving begon met GPT-3. In mei 2020 toonde OpenAI met dat model dat een taalmodel een nieuwe taak kan leren uit een paar voorbeelden of een eenvoudige instructie in de vraag, zonder extra training. Vanaf dan werd de prompt de manier om software te sturen, en schreven Anthropic en OpenAI eigen gidsen over hoe je dat goed doet. Wat er gebeurt als iemand anders dan jij de prompt stuurt, lees je bij prompt injection.
Vijf delen van een goede opdracht
De gidsen van Anthropic en OpenAI verschillen in woorden, maar komen uit op dezelfde vijf delen. Anthropic vat het samen in een beeld: zie het model als een briljante nieuwe medewerker die niets weet van je bedrijf. Alles wat die collega moet weten, moet in de prompt.
| Deel | Wat erin staat | Wat de gidsen aanraden |
|---|---|---|
| Rol | Wie het model is en voor wie het werkt | Anthropic: een zin in de systeemprompt maakt al verschil. OpenAI: begin met de identiteit van de assistent |
| Taak | Wat het precies moet doen, met een werkwoord | Wees duidelijk en direct; zet stappen in een genummerde lijst als de volgorde telt |
| Context | Wat het model niet kan weten, en waarom een regel er is | Anthropic: geef de reden achter een instructie, het model veralgemeent ze. OpenAI: zet wisselende context achteraan |
| Voorbeelden | Een paar echte antwoorden die goed waren | Anthropic: drie tot vijf, divers, in example-tags. OpenAI noemt het few-shot learning |
| Vorm | Lengte, toon, opbouw, wat je terug wilt | Beide: zeg expliciet welk formaat je verwacht en scheid delen met Markdown of XML-tags |
Een test die Anthropic zelf geeft: laat je prompt lezen door een collega die de taak niet kent. Snapt die het niet, dan snapt het model het ook niet.
Een installateur, voor en na
Voor
Schrijf een antwoord op deze mail.
Je krijgt een algemene mail die je zelf herschrijft.
Na: dezelfde taak, met wat een nieuwe collega ook zou moeten weten
Prompt in vijf delen, de mail van de klant onderaan
Je bent de binnendienst van een installatiebedrijf in Lokeren dat warmtepompen plaatst in het Waasland.
Beantwoord de offerteaanvraag tussen de <mail>-tags en stel een gratis plaatsbezoek voor.
Noem geen prijs: isolatie en radiatoren bepalen de prijs, en die zien we pas ter plaatse. Bezoeken doen we op dinsdag en donderdag.
<voorbeeld>Een antwoord dat we eerder stuurden en goed vonden.</voorbeeld>
Hooguit 120 woorden, kort en vriendelijk, geen vakjargon. Sluit af met twee data. Geef alleen de mailtekst.
<mail>{{de mail van de klant}}</mail>
- RolWie het model is en voor wie het schrijft. Een zin volstaat.
- TaakWat het precies moet doen, met een werkwoord.
- Context met de redenWat het model niet kan weten, en waarom een regel er is.
- VoorbeeldenDrie tot vijf echte antwoorden sturen toon en vorm het best.
- VormLengte, toon en wat je terug wilt, zodat je niets moet knippen.
Fictief voorbeeld. De tags houden je instructie en de tekst van de klant uit elkaar.
Twintig offerteaanvragen per week, voor en na
Stel: een installateur van warmtepompen in Lokeren krijgt elke week twintig offerteaanvragen via zijn site. Sneller antwoorden is de eerste stap naar offertes maken met AI. Een medewerker laat ChatGPT een eerste antwoord schrijven met de prompt 'Schrijf een antwoord op deze mail.' Het model doet wat het kan: een beleefde, algemene mail, soms met een prijsvork die het zelf verzint, zonder voorstel voor een plaatsbezoek. De medewerker herschrijft de helft.
Met de vijf delen uit de figuur hierboven weet het model wie het is, dat het geen prijs mag noemen en waarom, wanneer bezoeken kunnen, hoe een goed antwoord klinkt en hoe lang het mag zijn. Het verschil zit niet in slimme woorden, maar in informatie die alleen het bedrijf heeft. Welk model het best schrijft, hangt van de taak af: zie ChatGPT of Claude.
Een zin tegenover vijf delen
- Toon
- Prompt van een zinAlgemeen en beleefd, niet van jou
- Prompt in vijf delenZoals je eerdere antwoorden, uit de voorbeelden
- Prijs
- Prompt van een zinSoms een verzonnen prijsvork
- Prompt in vijf delenGeen prijs, met de reden: eerst een plaatsbezoek
- Volgende stap
- Prompt van een zinVaag: neem gerust contact op
- Prompt in vijf delenTwee concrete data voor een bezoek
- Lengte
- Prompt van een zinWat het model kiest
- Prompt in vijf delenHooguit 120 woorden, alleen de mailtekst
De lange prompt kost een uur om te schrijven en spaart dat uur elke week terug.
Nalopen voor je hem in gebruik neemt
- Staat er een rol in van een zin: wie het model is en voor wie het schrijft?
- Begint de taak met een werkwoord, en staan stappen in volgorde als die telt?
- Staat bij elke regel de reden, zodat het model ook gevallen snapt die je niet voorzag?
- Zitten er drie tot vijf echte voorbeelden in, die verschillen van elkaar?
- Is de tekst van de klant gescheiden van je instructie, met tags?
- Zeg je hoe lang het antwoord mag zijn en wat je terug wilt?
- Testte je de prompt op twintig echte gevallen, ook de lastige?
Als de opdracht in je software zit
In een chat schrijf je een prompt, lees je het antwoord en stuur je bij. In software staat de prompt vast en gaat hij duizenden keren mee zonder dat iemand meeleest. Dat verandert het werk. OpenAI raadt aan om een vaste versie van het model te gebruiken en tests te bouwen die meten hoe de prompt presteert, zodat je ziet wat er verandert als je de prompt of het model wijzigt. Anthropic begint nog een stap eerder: eerst bepalen wanneer een antwoord goed is en hoe je dat test, dan pas aan de prompt schaven.
Twee termen kom je daarbij tegen. De systeemprompt is de vaste instructie die de bouwer schrijft; de gebruikersprompt is wat de klant of de medewerker intypt. Bij prompt chaining knip je een grote taak in stappen, elk met een eigen prompt: eerst de feiten uit een document halen, dan een antwoord schrijven, dan nakijken.
Wat een prompt kost
Een prompt is tekst, en tekst betaal je in tokens. Stel: een chatbot heeft een systeemprompt van 500 woorden en beantwoordt 10.000 vragen per maand. Aan 1,67 tokens per Nederlands woord is dat 8,35 miljoen tokens, met Claude Sonnet 5.5 aan 2 dollar per miljoen bijna 15 euro per maand voor alleen die vaste instructie. Laat je ze cachen, dan kost een herhaald stuk 0,10 dollar per miljoen: minder dan een euro. Wat jouw volume kost, reken je uit met de AI-kostentool.
Prompts in een gratis chattool zijn een andere zaak: wat je erin plakt, verlaat je bedrijf. Leg in een kort AI-beleid vast welke gegevens je medewerkers in een prompt mogen zetten; de regels van de AI Act staan in AI-beleid en de AI Act. Wil je een assistent die je eigen documenten kent zonder dat je ze telkens plakt, bekijk dan een eigen ChatGPT maken en RAG.
Vier vragen uit de praktijk
Wat is een systeemprompt?
De vaste instructie die de bouwer van een AI-toepassing schrijft en die bij elke vraag meegaat: wie het model is, wat het mag, welke bronnen het gebruikt en in welke vorm het antwoordt. De gebruiker ziet hem niet; hij typt alleen zijn eigen vraag.
Moet ik in het Engels prompten voor betere antwoorden?
Nee. De grote modellen werken goed in het Nederlands. Schrijf de prompt in de taal van het antwoord dat je wilt, dan hoeft het model niet te vertalen. Engels kost wel minder tokens, gemiddeld een kwart minder voor dezelfde tekst, wat pas telt bij duizenden aanroepen.
Hoe lang mag een prompt zijn?
Zo lang als nodig, zolang alles in het contextvenster past. Een goede systeemprompt is vaak een tot twee pagina's. Lange documenten zet je bovenaan en de vraag onderaan: volgens Anthropic geeft dat tot 30 procent betere antwoorden bij lange invoer.
Is prompt engineering een vak dat ik moet leren?
Voor dagelijks gebruik volstaan de vijf delen uit deze pagina. Voor een toepassing die duizenden keren draait, telt het testen meer dan de formulering: je meet de prompt op echte gevallen en past hem aan waar hij faalt.