Op deze pagina
Een model dat hallucineert, liegt niet: het weet niet dat het fout zit. Dat komt door hoe een LLM werkt. Het voorspelt telkens het meest waarschijnlijke volgende stukje tekst. Kent het het antwoord niet, dan schrijft het wat waarschijnlijk klinkt. Een badkamer "kost" volgens het model een bedrag dat bij badkamers past, niet het bedrag uit jouw prijslijst. OpenAI schreef in september 2025 dat de manier waarop modellen getraind en getest worden, gokken beloont boven toegeven dat je het niet weet.
Twee zaken die het duur maakten
Onderzoekers gebruikten het woord al rond 2018 voor vertaalsystemen die zinnen toevoegden die niet in de brontekst stonden. Met ChatGPT werd het een begrip voor iedereen, en twee zaken maakten het tastbaar voor bedrijven. In de Verenigde Staten kregen twee advocaten in juni 2023 een boete van 5.000 dollar omdat ze bij de rechtbank rechtspraak indienden die ChatGPT had verzonnen. En in februari 2024 moest Air Canada een klant terugbetalen omdat zijn chatbot een korting had beloofd die niet in het beleid stond. De maatschappij voerde aan dat de chatbot verantwoordelijk was voor zijn eigen woorden; het Canadese geschillentribunaal vond van niet.
De les voor een kmo: een klant behandelt je chatbot als je bedrijf. Wat hij belooft, belooft jij.
Vier soorten fouten in een bedrijf
| Soort | Voorbeeld | Wat het tegenhoudt |
|---|---|---|
| Verzonnen feit | Een openingsuur of prijs die niet klopt | Antwoorden uit je eigen bronnen |
| Verzonnen bron | Een wetsartikel of studie die niet bestaat | De bron tonen, met link, en controleren |
| Fout cijfer | Een berekening of datum die net niet klopt | Rekenen in gewone code, niet in het model |
| Verzonnen beleid | Een korting of garantie die je nooit gaf | Vaste grenzen: wat het niet mag beloven |
Hoe vaak het gebeurt, verschilt sterk per model en per taak. Een samenvatting van een tekst die je meegeeft, gaat zelden fout. Een vraag naar een feit dat nergens in de context staat, gaat veel vaker fout.
Dezelfde klantvraag, met en zonder bronnen
KlantWat kost een nieuwe zinken dakgoot per meter, en hoe lang is de garantie?
Zonder bronnen
Een zinken dakgoot kost bij ons 85 euro per meterverzonnen, met tien jaar garantieverzonnen op het werk.
Uit je eigen bronnen
Een zinken dakgoot kost 62 euro per meter, plaatsing inbegrepen, met vijf jaar garantie.
Rekenvoorbeeld met een verzonnen dakwerker. Rechts staat elk deel van het antwoord bij de plek waar het vandaan komt.
Drie maatregelen die in elke AI-toepassing horen
Antwoorden uit je eigen bronnen
Het model krijgt bij elke vraag de juiste stukken uit je prijslijst, handleiding of beleid, met de instructie alleen daaruit te antwoorden. Vindt het niets, dan zegt het dat. Dat heet RAG.
De bron tonen
Elk antwoord verwijst naar het document of de pagina waar het vandaan komt. Wie twijfelt, kan het nakijken, en jij ziet meteen waar een fout vandaan komt.
Een mens keurt wat naar buiten gaat
Offertes, mails aan klanten en alles met een prijs of belofte wordt voorbereid door AI en goedgekeurd door een mens. Wat intern blijft, mag sneller.
Wat de maatregelen kosten, tegenover de fout
De zaak tegen Air Canada draaide om een paar honderd dollar, maar de echte kost zat in het vertrouwen: een klant die een chatbot niet meer gelooft, belt voortaan. Voor een kmo is het risico meestal kleiner maar concreter: een verkeerde prijs in een offerte, een verkeerde datum voor een afspraak, een fout antwoord op een vraag over btw.
De maatregelen kosten weinig vergeleken met het bouwen zelf. Antwoorden uit eigen bronnen vraagt dat je documenten op orde zijn en doorzocht kunnen worden. De bron tonen is een ontwerpkeuze. En een mens die goedkeurt, kost een klik per bericht, tegen minuten die je anders aan het schrijven kwijt was. Hoe zo'n systeem eruitziet, lees je bij eigen ChatGPT maken; wat een chatbot kost, in wat kost een AI-chatbot.
Drie gewoontes als je zelf ChatGPT gebruikt
Geef het model de tekst waarover je een vraag hebt, in plaats van te vragen wat het weet. Vraag om de bron en kijk die na. En laat het nooit rekenen of datums bepalen zonder controle. Welke assistent het best past, staat in ChatGPT of Claude. Wie AI in zijn bedrijf inzet, legt ook beter vast wie wat mag: zie AI-beleid en de AI-verordening. Beschrijft een AI-assistent je eigen bedrijf verkeerd, dan helpt duidelijke informatie op je site; dat werk heet GEO.
Wat bedrijven vragen over verzonnen antwoorden
Kan je hallucinaties volledig voorkomen?
Niet volledig, wel sterk verminderen: antwoorden uit je eigen bronnen, de bron tonen, het model laten zeggen dat het iets niet weet, en een mens die controleert wat naar buiten gaat.
Ben ik aansprakelijk voor wat mijn chatbot zegt?
In de zaak tegen Air Canada was het bedrijf aansprakelijk. Ga ervan uit dat een klant je chatbot behandelt als je bedrijf, en bouw er grenzen in.
Wat is het verschil met een fout in mijn eigen gegevens?
Bij een hallucinatie verzint het model iets. Bij een fout in je gegevens geeft het netjes een fout antwoord door. De bron tonen helpt bij allebei: je ziet meteen waar het misging.