Een advocaat in New York diende in 2023 een processtuk in met zes uitspraken die er niet waren. ChatGPT had ze verzonnen, compleet met zaaknummers en citaten. De rechter legde een boete op. Het is sindsdien het standaardvoorbeeld geworden van wat er misgaat als je een taalmodel als bron behandelt.
De les die daaruit getrokken wordt is meestal: gebruik geen AI voor juridisch werk. Dat is te kort door de bocht. De juistere les is: gebruik geen AI die niet kán laten zien waar het antwoord vandaan komt.
Waarom een taalmodel uitspraken verzint
Een taalmodel is geen database. Het slaat geen uitspraken op en zoekt ze niet op. Het voorspelt welk woord waarschijnlijk volgt op de vorige woorden, op basis van patronen uit zijn trainingsdata.
Vraag je om een uitspraak over een concurrentiebeding, dan weet het model hoe een ECLI eruitziet: vier delen, een instantiecode, een jaartal, een volgnummer. Het genereert iets dat aan dat patroon voldoet. Dat het toevallig niet bestaat, kan het model niet weten — het heeft geen lijst om tegen te controleren.
Het probleem is dus niet dat het model liegt. Het probleem is dat het niet het verschil kent tussen onthouden en verzinnen.
Wat er wél werkt: eerst zoeken, dan pas formuleren
Er is een aanpak die dit ondervangt. In plaats van het model uit zijn geheugen te laten putten, draai je de volgorde om:
- De vraag wordt eerst gebruikt om echte uitspraken op te zoeken in een database met de gepubliceerde rechtspraak.
- Die gevonden uitspraken gaan als tekst mee naar het model.
- Het model mag alleen formuleren op basis van wat het meekrijgt.
Het model doet dan waar het goed in is — taal begrijpen en samenvatten — en niet waar het slecht in is: feiten onthouden. De uitspraken komen uit de bron, niet uit het geheugen.
Waarom dat op zichzelf nog niet genoeg is
Ook met die opzet kan een model in de formulering alsnog een ECLI noemen die niet in de aangeleverde stukken stond. Instructies helpen, maar een instructie is geen garantie.
Daarom is er een tweede slot nodig, in de code in plaats van in de prompt: controleer elke ECLI in het antwoord tegen de lijst uitspraken die daadwerkelijk zijn opgehaald. Staat een verwijzing daar niet tussen, dan gaat hij eruit voordat de gebruiker hem ziet.
Zo hebben wij het gebouwd. Het model krijgt de instructie om alleen te citeren wat het meekrijgt, en daarnaast filtert de code elke verwijzing die niet in de opgehaalde set zit. Twee onafhankelijke sloten, want op prompt-gehoorzaamheid alleen kun je een dossier niet bouwen.
Wat AI wel kan in juridisch werk
Met die opzet verschuift de vraag van “kan ik dit vertrouwen” naar “waar bespaart dit tijd”. Concreet:
- Zoeken zonder de juiste term te kennen. Je vraagt naar ontslag wegens het meenemen van spullen; de rechter schreef over “een dringende reden in de zin van artikel 7:678 BW”. Betekenisgericht zoeken overbrugt dat.
- Een eerste beeld van de lijn. Welke kant oordelen rechters op bij dit type kwestie, en welke omstandigheden wegen mee.
- Vindplaatsen verzamelen. Niet het oordeel, maar de bronnen waarmee je zelf verder werkt.
Wat AI niet kan
Even duidelijk over de andere kant, want daar zit de aansprakelijkheid.
Beoordelen of een uitspraak op jouw zaak past. Rechters wegen omstandigheden. Of jouw feitencomplex voldoende lijkt op dat van de uitspraak, is een juridisch oordeel — geen zoekopdracht.
Weten wat er niet gepubliceerd is. De Rechtspraak publiceert een selectie. Het overgrote deel van de kantonzaken komt nooit online. Geen resultaat betekent niet dat er niet over geoordeeld is.
Strategie bepalen. Wel of niet procederen, welk verweer je voert, wat een schikking waard is: dat is vakmanschap, geen informatieprobleem.
De controle die altijd van jou blijft
Welke tool je ook gebruikt, drie dingen controleer je zelf voordat een uitspraak je stuk in gaat:
- Is er hoger beroep of cassatie op gevolgd? Een vernietigd vonnis draagt niets.
- Gold destijds dezelfde wet? Het arbeidsrecht veranderde ingrijpend met de Wwz in 2015.
- Lijken de feiten voldoende op jouw zaak?
Dat is precies waarom elke verwijzing bij ons klikbaar naar de vindplaats gaat. Niet omdat het mooi staat, maar omdat je het moet kunnen narekenen.
Kort samengevat
Een taalmodel dat uit zijn geheugen citeert, verzint uitspraken — niet uit kwade wil, maar omdat het geen bron heeft om tegen te toetsen. Een systeem dat eerst zoekt en daarna pas formuleert, en dat elke verwijzing hard controleert tegen wat het heeft opgehaald, doet dat niet. Het beoordelen blijft mensenwerk; het zoekwerk hoeft dat niet te zijn.
Probeer het gratis of lees wat de tool doet.
Wil je zelf zien hoe dat werkt, dan laat jurisprudentie zoeken de stappen zien inclusief de bronnen bij elk antwoord.