AI-hallucinaties in de juridische praktijk: oorzaken en het verifiëren van bronvermeldingen

AI-hallucinaties in de juridische praktijk zijn geen kinderziekte van vroege tools die inmiddels is verholpen. Ze zijn het directe gevolg van de wijze waarop grote taalmodellen tekst genereren, en inmiddels zijn er talloze voorbeelden van te vinden in processtukken, cliëntadviezen en contractbeoordelingen. 

Het probleem is niet de fout op zich – ook beginnende juristen maken immers fouten –, maar het feit dat een gefabriceerde uitspraak, citaat of clausule exact leest als een authentieke: met een correcte opmaak, plausibele partijnamen en een overtuigende samenvatting van de rechtsregel, zonder dat enig element erop wijst dat de inhoud is verzonnen.

In deze gids leest u waarom hallucinaties ontstaan, waar ze zich voordoen binnen juridische automatisering en wat uw beroepsmatige verplichtingen ter zake zijn. Daarnaast biedt de gids een praktische checklist om elke bronverwijzing te verifiëren voordat deze uw bureau verlaat, alsmede een reeks gerichte vragen die u aan elke aanbieder van juridische AI kunt voorleggen over hoe diens systeem waarborgt dat antwoorden herleidbaar blijven tot reële bronnen. 

Wilt u de theorie liever overslaan en direct ervaren hoe een gespecialiseerde juridische AI-oplossing hallucinaties tot een minimum beperkt? Vraag dan een demonstratie aan van LEGALFLY.

Gabby MacSweeney

Vice President Marketing

Vraag vandaag nog uw demonstratie aan

Plan een gesprek met een van onze experts om te ontdekken wat LEGALFLY voor uw praktijk kan betekenen.

Hoe een AI-hallucinatie eruitziet in de juridische praktijk

Een AI-hallucinatie is informatie die als feit wordt gepresenteerd, maar niet op enige bron is gebaseerd. Een uitspraak, citaat, bepaling of contractvoorwaarde die door het model is gegenereerd in plaats van gevonden, is een hallucinatie. Binnen de juridische praktijk vallen deze uiteen in een aantal herkenbare categorieën.

In processtukken komen gefabriceerde bronvermeldingen het meest voor, terwijl bij bedrijfsjuridische teams het verkeerd interpreteren van contracten de grootste rol speelt. Hallucinaties beperken zich echter niet tot juridisch onderzoek; AI kan ze veroorzaken bij het lezen, samenvatten of extraheren van informatie.

Waarom AI-hallucinaties ontstaan

Een groot taalmodel zoekt geen feiten op, maar voorspelt het meest waarschijnlijke volgende tekstfragment op basis van patronen in zijn trainingsdata. Hoewel deze tekst meestal steekhoudend en correct is, kan dit alsnog leiden tot fouten die het model zelf niet kan verifiëren. Juridische teksten voegen hier een extra complexiteitslaag aan toe:

  • Ze volgen een zeer voorspelbare structuur: Zaaksnamen, neutrale citaties en wettelijke verwijzingen hanteren strikte formats. Hierdoor kan het model iets genereren dat exact de vorm heeft van een bronvermelding, zonder dat er een daadwerkelijke uitspraak aan ten grondslag ligt.

  • Trainingsdata is onvolledig en verouderd: Veel rechterlijke uitspraken, met name van lagere rechtbanken en kleinere jurisdicties, zijn beperkt of helemaal niet aanwezig in de trainingsdata. Daarnaast verandert het recht na de trainingsdatum. Wanneer informatie ontbreekt, vult het model de hiaten op met iets dat plausibel klinkt.

  • Modellen zijn ontworpen om antwoord te geven: Een generieke chatbot is geoptimaliseerd om behulpzaam te zijn. Wanneer er om jurisprudentie of autoriteit ter ondersteuning van een stelling wordt gevraagd, zal deze doorgaans bronnen produceren, zelfs als die niet bestaan.

  • Geen verankering in bronnen: Het percentage hallucinaties daalt aanzienlijk wanneer een model verplicht is te antwoorden vanuit opgehaalde, geverifieerde bronnen en exact moet vermelden waar elke verklaring vandaan komt, in plaats van uitsluitend uit het geheugen te putten.

  • Lange en complexe documenten: Bij de beoordeling van overeenkomsten kunnen AI-modellen clausules door elkaar halen, partijen verwarren of een voorwaarde uit de ene overeenkomst overnemen in de samenvatting van een andere, met name bij omvangrijke documenten of grote datasets.

  • Sturende prompts: Een prompt die het antwoord al suggereert, zoals "zoek de uitspraak waarin staat dat...", stimuleert het model om dit te bevestigen.

In Ayinde v London Borough of Haringey en Al-Haroun v Qatar National Bank, beide gewezen op 6 juni 2025, oordeelde de Divisional Court klip-en-klaar: vrij beschikbare generatieve AI-tools zoals ChatGPT zijn niet in staat tot het verrichten van betrouwbaar juridisch onderzoek. Dit betekent niet dat AI moet worden vermeden bij de behandeling van juridische zaken, maar wel dat instrumenten die specifiek zijn ontwikkeld voor de juridische praktijk in het voordeel zijn en dat hun output te allen tijde moet worden geverifieerd.

De omvang van het probleem

De database AI Hallucination Cases, beheerd door Damien Charlotin, waarin uitspraken van rechtbanken en tribunalen worden bijgehouden waarin door AI gefabriceerd materiaal is vastgesteld, telt inmiddels wereldwijd 2.202 uitspraken. 

Deze toont tevens een sterke stijging in de Verenigde Staten: van 11 zaken in 2023 naar 37 in 2024, 526 in 2025 en 574 in uitsluitend de eerste helft van 2026. De database wordt continu bijgewerkt, dus deze aantallen dienen als een ondergrens te worden beschouwd en niet als een definitief eindtotaal.

Waar AI-hallucinaties zich voordoen in juridische automatisering

Nieuwsberichten belichten steevast rechters die fouten in processtukken ontdekken, maar bedrijfsjuridische teams lopen dezelfde risico's bij werkzaamheden die mogelijk nooit door een rechter worden gelezen. Binnen juridische automatisering komen AI-hallucinaties met name voor op vier gebieden:

  • Juridisch onderzoek en adviesmemo's: Het klassieke geval waarin een antwoord op een rechtsvraag verwijst naar een autoriteit die niet bestaat, of naar een echte uitspraak voor een verkeerd rechtsbeginsel. Aangezien een dergelijke hallucinatie in een directieverslag of een interne notitie terecht kan komen in plaats van in een procesdossier, kan deze maandenlang onopgemerkt blijven.

  • Contractanalyse en data-extractie: AI-reviewtools rapporteren over clausules, bedragen, data en verplichtingen. Daarbij kunnen zij een aansprakelijkheidsbeperking hallucineren die niet in de overeenkomst staat, een opzegtermijn overnemen uit een ander contract, of ten onrechte melden dat er "geen change of control-clausule is aangetroffen". Deze fouten zijn moeilijker te detecteren dan een fictieve uitspraak, omdat de beoordelaar geen externe database heeft om te controleren, maar uitsluitend het contract zelf.

  • Contractopstelling (drafting): Tools die documenten genereren, kunnen wettelijke verwijzingen, gedefinieerde termen of standaardbepalingen invoegen die niet aansluiten bij het toepasselijk recht of de rest van het document. Een verwijzing naar een ingetrokken bepaling of een niet-bestaand wetsartikel wordt in een omvangrijk concept gemakkelijk over het hoofd gezien.

  • Meerstaps- en agentic workflows: Wanneer AI-agents taken aaneenschakelen – zoals triage, analyse, redlining en samenvatting – wordt een fout vroeg in de keten meegenomen en met toenemend vertrouwen herhaald. Tegen de tijd dat een samenvatting de business bereikt, kan de oorspronkelijke fout meerdere stappen verwijderd zijn van de bron. Daarom moet elke stap in een geautomatiseerde workflow gekoppeld blijven aan de brontekst, en blijven menselijke toetsing en goedkeuring cruciaal.

Hoe LEGALFLY AI-output verankerd houdt in de bronnen

Verificatie draait niet om het voor een tweede of derde keer doorlezen van het AI-antwoord, maar om het controleren ervan aan de hand van een primaire bron, met iemand die verantwoordelijk is voor het resultaat.

LEGALFLY helpt organisaties bovenstaande ontwerpkeuzes te integreren in elke workflow, zodat de output onderbouwd blijft, elk antwoord kan worden geverifieerd en de juridische afdeling de controle behoudt. 

LEGALFLY, het juridische besturingssysteem voor in-house teams, is ontworpen om juridisch werk van verzoek tot resultaat te begeleiden binnen de kaders die u zelf stelt. Het platform steunt op vijf pijlers om te waarborgen dat elk antwoord dat u te zien krijgt, vergezeld gaat van de bron die u nodig heeft voor de controle.

Besteed niet langer uren aan repetitieve juridische werkzaamheden

De meeste teams die LEGALFLY gebruiken, halveren hun contractbeoordelingstijd al binnen enkele weken na ingebruikname. Plan een korte demonstratie om te zien wat het voor uw praktijk kan betekenen.

Agent Studio


In Agent Studio richten juridische teams in hoe werkstromen verlopen: welke agent een verzoek behandelt, welk playbook van toepassing is, wat wordt geëscaleerd naar een jurist en wat goedkeuring vereist. Conditionele routering, escalatiedrempels en goedkeuringen maken vanaf de allereerste stap deel uit van de workflow. Elke handeling is controleerbaar dankzij een inzichtelijke redeneertrits, bronverwijzingen en volledige auditlogs. 

Op deze manier voorkomt juridische workflowautomatisering het probleem van foutopstapeling: elke stap behoudt zijn directe koppeling met de bron en documenten worden bij elke noodzakelijke stap door mensen goedgekeurd.


Vraag vandaag nog uw demonstratie aan

Plan een gesprek met een van onze experts om te ontdekken wat LEGALFLY voor uw praktijk kan betekenen.

Anonimisering


Anonimisering biedt het antwoord op wat de SRA naast hallucinaties als het tweede grote AI-risico beschouwt: vertrouwelijkheid. LEGALFLY stelt de enige juridische AI te zijn die documenten voorafgaand aan de analyse anonimiseert; dit is een fundamentele architectuurkeuze en geen optionele instelling. 

Documenten worden direct bij het importeren geanonimiseerd, nog voordat de analyse start, zodat persoonsgegevens uw omgeving nooit verlaten. Het is beschikbaar via SaaS, single-tenant of met on-premise anonimisering, en het platform is ISO 27001-gecertificeerd en SOC 2 Type II-compliant.


Vraag vandaag nog uw demonstratie aan

Plan een gesprek met een van onze experts om te ontdekken wat LEGALFLY voor uw praktijk kan betekenen.

Discovery


De Discovery-agent van LEGALFLY baseert zich op meer dan 1.000 officiële juridische bronnen in meer dan 130 jurisdicties, aangevuld met uw eigen kennisbanken van beleid, playbooks en clausules, alvorens een prompt te beantwoorden. 

Gebruikers kunnen zelf de bronnen selecteren en de jurisdicties bepalen; elk antwoord is voorzien van verifieerbare citaties en motiveringen.


Vraag vandaag nog uw demonstratie aan

Plan een gesprek met een van onze experts om te ontdekken wat LEGALFLY voor uw praktijk kan betekenen.

Review


De Review-agent toetst contracten aan uw eigen playbooks, met meer dan 120 door juristen opgestelde playbooks die ruim 100 documenttypen bestrijken. 

De agent licht elke gesignaleerde clausule toe met de achterliggende redenering, ondersteunende bronnen en een inzichtelijk audittraject. Zo kan de beoordelaar elke bevinding toetsen aan het daadwerkelijke contract in plaats van blind te vertrouwen op een samenvatting.


Wat zou u doen met 10 extra uren per week?

LEGALFLY stelt uw team in staat efficiënter te werken: minder tijd kwijt aan contracten, meer tijd voor uw kerntaken. Plan een gesprek om de oplossing in actie te zien.

Contract Intelligence


Extractiefouten verliezen hun risico niet zodra een contract eenmaal is ondertekend. Een verkeerd gelezen opzegtermijn tijdens de review leidt twee jaar later tot een gemiste deadline, waarbij niemand meer terugkeert naar de bron om deze te controleren.

Contract Intelligence bestrijkt de gehele contractlevenscyclus en start al bij het concept in plaats van bij ondertekening. Het toont de status van elk contract en de vereiste vervolgstappen: van onderhandeling, goedkeuring en digitale handtekening tot verlengingen, expiratiedata, opzegtermijnen en contractuele verplichtingen – telkens herleidbaar naar het brondocument.


Besteed niet langer uren aan repetitieve juridische werkzaamheden

De meeste teams die LEGALFLY gebruiken, halveren hun contractbeoordelingstijd al binnen enkele weken na ingebruikname. Plan een korte demonstratie om te zien wat het voor uw praktijk kan betekenen.

Hoe u elke bronvermelding verifieert: een stapsgewijze checklist

Wanneer uw team vertrouwt op generieke AI om dossiers te lezen en analyseren, is het raadzaam de volgende checklist te hanteren om elke autoriteit, elk citaat en elke contractverwijzing te controleren alvorens juridische documenten te verzenden:

1. Voor jurisprudentie en wetgeving

  • Beschouw elke bronvermelding als ongeverifieerd: Ga ervan uit dat er nog niets gecontroleerd is, ongeacht hoe overtuigend de tekst is geformuleerd.

  • Zoek de uitspraak op in een gezaghebbende bron: Raadpleeg de zaak in een officiële of erkende databank, zoals Find Case Law van The National Archives, BAILII, officiële rechtspraakpublicaties of uw eigen juridische abonnementen. Gebruik voor wetgeving legislation.gov.uk of EUR-Lex. Verifieer een citatie nooit door dezelfde AI ernaar te vragen of af te gaan op samenvattingen van zoekmachines.

  • Controleer de formele gegevens: Vergelijk partijnamen, de neutrale citatie (ECLI/zaaknummer), het gerecht, de datum en alineanummers met de bron. Een afwijking op enig punt is een waarschuwingssignaal.

  • Lees de specifieke passage waarop u steunt: Bevestig dat deze de stelling daadwerkelijk schraagt, dat het onderdeel uitmaakt van de dragende motivering (ratio decidendi) en geen overweging ten overvloede (obiter dictum) of minderheidsstandpunt (dissent) betreft, en dat de feiten voldoende overeenkomen.

  • Controleer citaten woord voor woord: Elk geciteerd zinsdeel moet letterlijk in de bron voorkomen. Is dat niet het geval, parafraseer de bron dan nauwkeurig of verwijder het citaat.

  • Controleer de geldigheid van het recht: Verifieer of de uitspraak niet is vernietigd, herroepen of in hoger beroep ter discussie is gesteld, en of de wettelijke bepaling van kracht, ongewijzigd en in de huidige versie van toepassing is.

  • Controleer het rechtsgebied (jurisdictie): Bevestig dat de aangehaalde autoriteit van toepassing is binnen het vereiste rechtsgebied: Engeland en Wales, Schotland, Noord-Ierland, een EU-lidstaat of elders.

2. Voor contractanalyse en data-extractie

  • Klik door naar de bepaling: Elke gerapporteerde voorwaarde, waarde, datum en verplichting moet rechtstreeks gekoppeld zijn aan de exacte tekst in het document. Ontbreekt deze link, zoek de passage dan zelf op.

  • Controleer meldingen over ontbrekende bepalingen: Wanneer de AI aangeeft dat een clausule ontbreekt, doorzoek dan zelf het document en de bijlagen. Ook de claim dat iets "niet gevonden" is, vereist verificatie.

  • Controleer of het juiste document voorligt: Controleer bij batchbeoordelingen of de output betrekking heeft op de juiste overeenkomst, versie en partij.

3. Voor finale goedkeuring (sign-off)

  • Leg de verificatie vast: Noteer wie wat heeft gecontroleerd, wanneer en aan de hand van welke bron, zodat de werkzaamheden achteraf kunnen worden geauditeerd.

  • Escaleer documenten met een hoog risicoprofiel: Alles wat bestemd is voor een rechtbank, toezichthouder of directie dient aan een tweede, senior toetsing te worden onderworpen.

Wees alert op uitspraken waarvan u nog nooit heeft gehoord maar die naadloos aansluiten op uw betoog, formats van bronvermeldingen die afwijken van de gebruikelijke stijl van de rechtbank, citaten die opvallend treffend zijn geformuleerd, autoriteiten die uitsluitend in het antwoord van de AI voorkomen, en samenvattingen die zeer stellig zijn maar geen specifieke passages aanhalen.

Hoe kunnen AI-hallucinaties in de juridische praktijk worden beperkt?

Beter dan het achteraf opsporen van fouten, is het inrichten van systemen die fundamenteel minder fouten genereren en het eenvoudiger maken om eventuele resterende onjuistheden te signaleren. 

Daartoe dient u, naast de te allen tijde vereiste menselijke verificatie, enkele essentiële ontwerpkeuzes door te voeren:

Veranker antwoorden in geverifieerde bronnen 

  • De output wordt verankerd in zowel interne documenten als externe wettelijke kaders.

  • Onderzoek baseert zich op meer dan 100 geverifieerde juridische bronnen: wetgeving, jurisprudentie en gerenommeerde juridische uitgevers, waaronder FromCounsel.

  • Gebruikers bepalen het bereik: betrouwbare gecureerde internetbronnen, interne kennisverzamelingen (inclusief toegang tot juridische uitgevers), of een combinatie van beide.

  • Onbetrouwbare websites zoals Wikipedia worden uitgesloten, zodat deze antwoorden nooit kunnen beïnvloeden.

Citaties en herleidbaarheid

  • Bij vragen over documenten verwijst LEGALFLY naar de exacte passage in de tekst waar het antwoord op gebaseerd is, en refereert het waar relevant aan externe juridische bronnen.

  • Elk onderdeel van een antwoord toont de exacte bron (document, clausule of internetbron) en de bijbehorende collectie; gebruikers kunnen doorklikken om de volledige bron te bekijken.

Uitlegbaarheid (Explainability)

  • Gebruikers kunnen stap voor stap nagaan hoe LEGALFLY tot zijn conclusies is gekomen.

  • Er kan een volledig rapport van AI-gestuurde beslissingen worden gedownload, met vermelding van de toegepaste playbook-regels en externe bronnen (geschikt voor toekomstige audits).

Inperking van de vrijheid van het model

  • De beoordeling volgt vooraf gedefinieerde juridische playbooks in plaats van willekeurige wijzigingen voor te stellen.

  • Teams kunnen exacte vervangende clausules of gestructureerde richtlijnen specificeren in plaats van een generieke herschrijving te ontvangen.

  • Dankzij kennisverzamelingen kunnen teams consistent vragen stellen over gecureerde sets van interne documenten, goedgekeurde modellen en externe bronnen.

  • Review wacht nu op de antwoorden van de gebruiker alvorens een herziening op te stellen, waardoor hiaten niet gissend worden ingevuld.

Vragen die u een juridische AI-leverancier moet stellen

Voordat u een tool inzet voor juridische werkzaamheden, dient u na te gaan hoe deze omgaat met hallucinaties. U kunt de onderstaande lijst hanteren om leveranciers te beoordelen, waarbij geldt dat ontwijkende antwoorden al veelzeggend zijn.

De laatste vraag is de meest veelzeggende: geen enkele integere leverancier zal garanderen dat zijn systeem nooit hallucineert. Het juiste antwoord legt uit hoe het systeem het risico mitigeert en hoe het fouten direct inzichtelijk maakt.

Vraag

Wat een adequaat antwoord inhoudt

Op basis van welke bronnen formuleert het systeem antwoorden?

Genoemde, geverifieerde juridische bronnen en uw eigen documenten, met de mogelijkheid bronnen te selecteren en jurisdicties in te stellen

Toont elk antwoord de achterliggende bronnen?

Citaties en rechtstreekse links naar de exacte passage, zowel bij onderzoek als bij contractextractie

Hoe actueel is de juridische content?

Een vastgelegde updatefrequentie voor jurisprudentie, wetgeving en content van uitgevers

Hoe reageert het systeem wanneer het geen antwoord kan vinden?

Het meldt dit expliciet, in plaats van een plausibel klinkend antwoord te genereren

Is de motivering controleerbaar?

Transparante redenering en volledige auditlogs

Op welke punten kan een mens ingrijpen?

Configureerbare goedkeuringen en escalatiemogelijkheden binnen de workflows

Wat gebeurt er met onze documenten?

Anonimisering, geen modeltraining op uw data, duidelijke bewaartermijnen en flexibele implementatieopties

Beweert de leverancier nul hallucinaties te hebben?

Dat zou niet moeten. Elke leverancier die 100% nauwkeurigheid belooft, overschat de huidige mogelijkheden van de technologie

Van verzoek tot resultaat

Hallucinaties zijn in de eerste plaats een ontwerpvraagstuk voordat ze een zorgvuldigheidsvraagstuk worden. Bovenstaande controles vangen op wat de beoordelaar bereikt; het achterliggende systeem bepaalt in welke mate fouten überhaupt zover kunnen komen.

Vraag een demo aan en ontdek hoe LEGALFLY juridisch werk end-to-end routeert, uitvoert en beheert, over alle teams, jurisdicties en workflows heen.


Van verzoek tot uitkomst

Ontdek hoe LEGALFLY juridische werkzaamheden end-to-end stroomlijnt, uitvoert en beheert, binnen elk team, elke jurisdictie en elke workflow.

Donkere verloopachtergrond

Van verzoek tot uitkomst

Ontdek hoe LEGALFLY juridische werkzaamheden end-to-end stroomlijnt, uitvoert en beheert, binnen elk team, elke jurisdictie en elke workflow.

Donkere verloopachtergrond

Van verzoek tot uitkomst

Ontdek hoe LEGALFLY juridische werkzaamheden end-to-end stroomlijnt, uitvoert en beheert, binnen elk team, elke jurisdictie en elke workflow.

Donkere verloopachtergrond

Veelgestelde vragen over AI-hallucinaties in de juridische praktijk

Wat zijn AI-hallucinaties in de juridische context?

Dit betreft output die een AI-tool als feit presenteert maar die geen basis vindt in de bronnen: gefabriceerde uitspraken, echte uitspraken die voor een onjuist rechtsbeginsel worden aangehaald, verzonnen citaten, niet-bestaande wetsbepalingen of contractvoorwaarden die niet in het document voorkomen.

Waarom verzinnen AI-tools juridische bronvermeldingen?

Taalmodellen voorspellen waarschijnlijke tekst in plaats van feiten op te zoeken. Juridische bronvermeldingen hanteren strikte formats, waardoor een model iets kan produceren dat sprekend lijkt op een officiële citatie zonder dat er een werkelijke zaak achter zit – met name wanneer het antwoordt vanuit het geheugen in plaats van geverifieerde bronnen te raadplegen.

Hoe verifieert u een door AI gegenereerde bronvermelding?

Zoek de autoriteit op in een officiële of erkende bron, controleer elk formeel detail van de citatie, lees de passage om te bevestigen dat deze de stelling schraagt, controleer citaten woord voor woord en stel vast of het recht nog actueel en van toepassing is binnen uw jurisdictie.

Kunnen AI-hallucinaties in juridische automatisering volledig worden uitgesloten?

Nee. Ze kunnen aanzienlijk worden beperkt door antwoorden te verankeren in geverifieerde bronnen, elke bewering te koppelen aan de bron, taken strikt af te bakenen en menselijke goedkeuring in workflows in te bouwen. Verificatie blijft te allen tijde noodzakelijk.