AI hallucinatie is het bekendste risico van werken met een taalmodel, en tegelijk het minst zichtbare. Een fout antwoord komt in dezelfde vloeiende, zelfverzekerde toon binnen als een correct antwoord, dus de vorm verraadt niets. Wie de output niet inhoudelijk toetst, merkt het verschil pas als iemand anders het merkt.
De oorzaak zit in de werking van het model zelf, niet in een storing. Een taalmodel voorspelt het volgende woord op basis van patronen en heeft geen ingebouwde toets aan de werkelijkheid. In professioneel werk levert dat drie terugkerende vormen op: verzonnen bronnen, verzonnen cijfers en verzonnen technische details. Alle drie ogen ze plausibel, en juist daarom glippen ze door.
Herkennen begint bij de inhoud terugleggen tegen een onafhankelijke bron. Voorkomen begint eerder, namelijk bij de vraag die je stelt en bij de controle die je erna vast inplant. Volledig uitsluiten kan niet, het risico fors verkleinen wel.
Hoeveel schade een hallucinatie aanricht, hangt af van wat je met de output doet. Een interne notitie vraagt een andere controle dan een advies dat naar een cliënt gaat. Op kantoorniveau is de vraag niet of iemand oplet, maar of die controle ergens is vastgelegd en aantoonbaar is.
Wat is een AI hallucinatie precies?
Een AI hallucinatie is output van een taalmodel die grammaticaal correct en overtuigend geformuleerd is, maar feitelijk onjuist of volledig verzonnen. Het model presenteert die output met dezelfde stelligheid als een antwoord dat wel klopt, zonder signaal dat er iets mis is. De fout zit in de inhoud, nooit in de vorm.
De term komt uit de psychologie, waar hallucineren staat voor het waarnemen van iets dat er niet is. Bij een taalmodel klopt die vergelijking maar half, want er is geen waarneming en geen bedoeling. Een terugkerend bezwaar in de Nederlandse vakdiscussie is dan ook dat confabuleren het preciezere woord is: het aanvullen van gaten met plausibel klinkende invulling.
Hallucinaties komen voor bij elk groot taalmodel, ChatGPT, Claude en Gemini inbegrepen. Een betrouwbaar percentage per model bestaat niet, omdat de kans sterk verschilt per vakgebied, per vraagtype en per lengte van het antwoord. Specifieke, feitelijke vragen naar namen, jaartallen, citaten en cijfers geven de grootste kans op een verzinsel.
Niet elke fout van een taalmodel is een hallucinatie. Bij complexere opdrachten met meerdere voorwaarden volgt een model soms een deel van de instructies en negeert het de rest zonder dat aan te kondigen, wat een instructiefout is en geen verzinsel. Een hallucinatie gaat over de feitelijke inhoud van het antwoord, een instructiefout over de opdracht die eraan voorafging. Beide vragen een controle, alleen een andere.
Waarom hallucineert AI?
AI hallucineert omdat een taalmodel geen feiten opzoekt maar het meest waarschijnlijke volgende woord voorspelt op basis van patronen in zijn trainingsdata. Tussen die voorspelling en de werkelijkheid zit geen controlestap. Het resultaat past bij het patroon, wat iets anders is dan kloppen. Diezelfde mechaniek zit in de kern van generatieve AI, die tekst opbouwt via kansberekening in plaats van via een bron.
Vier factoren vergroten de kans op een hallucinatie. Dekt de trainingsdata een onderwerp niet of maar half, dan vult het model het gat op met een aanname. Hoe vager de vraag, hoe meer ruimte het model krijgt om te gokken. Bij lange gesprekken en grote documenten raakt een model eerder de draad kwijt en verwisselt het informatie van eerder in het gesprek. En taalmodellen zijn getraind om behulpzaam te zijn, dus bij twijfel tussen niets antwoorden en toch iets produceren wint meestal het antwoord.
Die laatste factor verklaart waarom een hallucinatie zo vaak precies past bij wat je hoopte te horen. Wie begrijpt hoe werkt AI op woordniveau, ziet ook waarom een model liever een compleet antwoord geeft dan een half antwoord met een gat erin. Het model onderscheidt niet tussen wat het uit data haalt en wat het aanvult.
Welke soorten AI hallucinaties kom je tegen in je werk?
In professioneel werk richten drie soorten AI hallucinaties de meeste schade aan: verzonnen bronnen, verzonnen cijfers en verzonnen technische output. Ze delen hetzelfde probleem, want alle drie zien ze er precies uit zoals een correct antwoord eruitziet.
Verzonnen bronnen en citaten
Verzonnen bronnen zijn de hallucinatie die het vertrouwen het snelst ondermijnt. In de periode dat ik ChatGPT intensief gebruikte, noemde het regelmatig onderzoeken, rapporten en citaten die bij controle niet bestonden. Een verzonnen bron krijgt bovendien vaak een compleet uiterlijk mee: een auteur, een jaartal, een instituut en een titel die logisch klinkt bij het onderwerp.
Vraag je het model daarna of de bron echt bestaat, dan bevestigt het dat vaak gewoon. Die bevestiging is dezelfde voorspelling als de oorspronkelijke bron zelf en voegt niets toe aan de zekerheid. Alleen de bron openen telt als controle.
Verzonnen cijfers en feiten
Verzonnen cijfers zijn extra gevaarlijk omdat een getal betrouwbaar oogt en zelden wordt nagerekend. Een terugkerend patroon dat ik bij ChatGPT zag, was dat het bij een ingevoerd zoekwoord ongevraagd een zoekvolume plaatste, terwijl er geen koppeling met een keyword-tool als Ahrefs of SEMrush bestaat. Wie zelf geen toegang tot die data heeft, neemt zo’n cijfer aan zonder aanleiding om te twijfelen.
Simpele feiten gaan net zo goed mis. Een model kan met volle stelligheid Sydney als hoofdstad van Australië noemen, terwijl het Canberra is. Bij dat soort algemene kennis valt de fout snel op; bij een cijfer uit jouw eigen vakgebied vaak niet.
Verzonnen code en technische details
Bij programmeren levert een hallucinatie code op die er correct uitziet maar niet werkt. Niet-bestaande Python-functies, WordPress-hooks die nergens gedocumenteerd staan en verzonnen CSS-eigenschappen kwam ik regelmatig tegen. Meestal komt dat pas naar boven op het moment dat je de code draait, wat tijd kost in het ontwikkelproces.
Modellen verschillen onderling in hoe vaak dit gebeurt. In mijn eigen overstap van ChatGPT naar Claude viel me op dat Claude minder snel bronnen en cijfers verzint, een verschil dat ook terugkomt in de vergelijking Claude vs ChatGPT op feitelijke vragen. Controle blijft bij beide modellen nodig.
Hoe herken je een AI hallucinatie?
Een AI hallucinatie herken je aan de inhoud, nooit aan de vorm, want de toon is even zelfverzekerd als bij een correct antwoord. Vijf checks halen de meeste verzinsels boven water voordat de output verder gaat.
- Vraag om de bron en open hem daadwerkelijk, in plaats van te vragen of de bron bestaat.
- Stel dezelfde vraag opnieuw in een leeg gesprek en vergelijk de twee antwoorden.
- Reken cijfers na en controleer of percentages en totalen kloppen.
- Let op precisie zonder verwijzing, zoals een exact getal of een letterlijk citaat zonder herleidbare herkomst.
- Leg elke samenvatting naast het originele document voordat je hem doorstuurt.
Samenvattingen verdienen daarbij extra aandacht. In de periode dat ik ChatGPT gebruikte, vatte het documenten soms samen op een manier die plausibel klonk maar inhoudelijk afweek van de bron. Wie alleen de samenvatting leest en niet teruggaat naar het origineel, krijgt onjuiste informatie zonder dat er iets opvalt.
Een tweede signaal is een antwoord dat precies aansluit bij wat je hoopte te horen. Klinkt iets te compleet of te rond, dan is dat reden om beter te controleren, niet minder. Zelf hanteer ik één vraag als filter: zou ik dit onder mijn eigen naam publiceren?
Hoe voorkom je AI hallucinaties?
Om AI hallucinaties te voorkomen verklein je de kans vooraf en vang je de rest achteraf op met vaste controles. De eerste ingreep zit in de vraag zelf, want een afgebakende vraag met context en criteria laat het model minder ruimte om te gokken. Daarmee is vraag stellen aan AI een controlestap nog voordat er output is.
De tweede ingreep is de bron verplicht stellen. Vraag om verifieerbare verwijzingen en gebruik voor feitelijke vragen een model met webtoegang of een opzet waarin het model uit jouw eigen documenten put, in plaats van uit trainingsdata. Het model haalt de informatie dan uit een bron die je kunt openen.
De derde ingreep is de tweede lezer. Het four-eyes-principe uit mijn jaren bij grootbanken neem ik mee naar AI-werk, want niets gaat de deur uit zonder tweede controle. Soms zet ik Claude in als tweede lezer van ChatGPT-output, of andersom, zodat het ene model de aannames van het andere toetst. Een tweede model vervangt de menselijke eindredactie niet, het zeeft alleen de grofste fouten eruit.
De vierde ingreep maakt de rest herleidbaar. In mijn eigen workflow log ik prompts en outputs, zodat ik achteraf kan nagaan welke vraag tot welk antwoord leidde en waar een fout is binnengeslopen. Zonder dat spoor blijft een hallucinatie een incident; met dat spoor wordt het een patroon dat je kunt afvangen in de volgende prompt.
De Claude cursus van LearnLLM bouwt die werkwijze stap voor stap op, met promptopbouw en outputcontrole als één geheel.
Wanneer is een AI hallucinatie een echt risico?
Een AI hallucinatie wordt pas een echt risico op het moment dat de output ergens terechtkomt zonder tussenkomst van een mens. Uit de bankenpraktijk neem ik mee dat niet elke taak hetzelfde risicoprofiel heeft. Een interne notitie die je zelf nog naleest, vraagt minder controle dan een gepubliceerd artikel, een offerte of een advies dat rechtstreeks naar een cliënt gaat.
Die hiërarchie bepaalt hoeveel controle een taak verdient. Hoe hoger de inzet, hoe strakker de check erop, en hoe eerder die check in het proces moet zitten in plaats van aan het eind. De verantwoordelijkheid voor de output ligt bij de professional die hem gebruikt, niet bij het model.
Hoe hard dat kan aankomen, laat Mata v. Avianca zien, de zaak waarin een rechter in New York op 22 juni 2023 sancties oplegde aan twee advocaten. Hun processtuk citeerde zes uitspraken die ChatGPT had verzonnen, compleet met zaaknummers en passages, en de rechtbank legde een boete van 5.000 dollar op. Sindsdien geldt die zaak internationaal als het ijkpunt voor AI voor advocaten en voor de vraag hoever de eigen onderzoeksplicht reikt bij AI-gebruik.
Voor accountants, notarissen en juristen ligt de lat om dezelfde reden hoger dan voor een marketingtekst. Beroepsregels leggen de verantwoordelijkheid voor de inhoud bij de beroepsbeoefenaar, ongeacht welk hulpmiddel die heeft gebruikt.
Hoe leg je hallucinatiecontrole vast in je kantoor?
Controle op AI hallucinaties wordt pas betrouwbaar zodra ze is vastgelegd als werkafspraak in plaats van als individuele gewoonte. Een collega die altijd controleert en een collega die dat nooit doet, leveren allebei werk af onder dezelfde kantoornaam. Zonder afspraak weet niemand welk van de twee je in handen hebt.
Zo’n afspraak bestaat uit drie onderdelen: welke taken AI mag raken, welke controle daarbij hoort, en wie die controle uitvoert. Koppel die drie aan de risicoklasse van de taak, zodat een interne samenvatting niet hetzelfde traject doorloopt als een conceptakte of een adviesbrief. Leg vast wat er gebeurt als de controle iets vindt, want een controle zonder vervolgstap is een formaliteit.
Sinds 2 februari 2025 raakt dit ook de wetgeving. EU AI Act artikel 4 vraagt van organisaties dat ze maatregelen nemen om de AI-geletterdheid van medewerkers te ondersteunen bij het gebruik van AI-systemen, en het herkennen van onjuiste output hoort daar rechtstreeks bij. De verplichting gaat over aantoonbaarheid, dus over vastgelegde afspraken en scholing, niet over de losse kennis van één enthousiaste collega.
Kantoren die dit van gewoonte naar werkwijze willen brengen, zetten meestal een AI-richtlijn, een promptbibliotheek per kerntaak en vaste controlepunten neer. Bij een AI implementatie voor bedrijven zijn dat precies de onderdelen die het verschil maken tussen een team dat AI gebruikt en een team dat weet wanneer het de output niet vertrouwt.
