Is-ought in digitaal recht: van algoritmische uitkomst naar juridische norm

Stel je voor: een computer beslist of jij een lening krijgt, of je wordt vervolgd, of zelfs hoe lang je straf misschien duurt.

Het voelt vaak koel, objectief en onpartijdig. Maar is dat wel zo? De kern van de discussie over kunstmatige intelligentie (AI) in het recht draait om een simpel maar krachtig idee: het verschil tussen wat is en wat zou moeten zijn. Dit is het beroemde 'is-ought' probleem, bedacht door de filosoof David Hume.

In de digitale wereld botsen deze twee constant op elkaar. We hebben feiten (data en algoritmes) en we hebben normen (wetten en rechtvaardigheid). Dit artikel duikt in de harde botsing tussen algoritmische uitkomsten en juridische normen.

De kracht van algoritmes: meer dan alleen code

Om te begrijpen waarom dit zo ingewikkeld is, moeten we eerst weten wat algoritmes eigenlijk zijn. Een algoritme is niets meer dan een stappenplan.

Het is een set instructies die een computer vertelt wat te doen.

Denk aan een simpel kookrecept, maar dan voor data. Deze instructies zijn de ruggengraat van alles wat we online doen. Je gebruikt ze elke dag, vaak zonder het door te hebben.

Als je zoekt op Google, bepaalt een algoritme welke pagina’s je te zien krijgt. Als je een film kiest op Netflix, baseert het systeem die aanbeveling op een algoritme dat je kijkgeschiedenis analyseert. TikTok is hier een extreem voorbeeld van; de 'For You' pagina is een perfecte, verslavende machine die precies berekent wat je wilt zien, gebaseerd op elke seconde die je kijkt. Maar het gaat verder dan entertainment.

In de financiële wereld gebruiken bedrijven algoritmes voor 'high-frequency trading', waarbij in milliseconden beslissingen worden genomen over aandelen.

Zelfs in de zorg worden algoritmes ingezet om röntgenfoto’s te analyseren of diagnoses te ondersteunen. Deze technologie is overal, en wordt steeds slimmer.

Algoritmes in het recht: rechter of hulpje?

De juridische wereld ontkomt niet aan deze golf van automatisering. Overheden en advocatenkantoren gebruiken AI om efficiënter te werken.

Maar wanneer algoritmes beslissingen gaan nemen die direct invloed hebben op mensenlevens, wordt het serieus.

Predictive Policing: Voorspellen of profileren?

Een bekend voorbeeld is 'predictive policing', oftewel voorspellende politie-inzet. Software zoals PredPol analyseert historische data over misdaden om te voorspellen waar criminaliteit gaat plaatsvinden. De gedachte is logisch: stuur politie naar plekken waar ze nodig zijn.

Maar de praktijk is weerbarstig. Als de historische data bias bevat—bijvoorbeeld omdat er in bepaalde wijken meer politiecontroles zijn geweest—dan blijft het algoritme die plekken aanwijzen als crimineel. Dit kan leiden tot een vicieuze cirkel waarin bepaalde gemeenschappen onnodig worden gecontroleerd, terwijl andere worden overgeslagen. De ACLU, een Amerikaanse belangenorganisatie, toonde aan dat dit soort systemen soms leidt tot onevenredige surveillance van zwarte gemeenschappen.

Recidive voorspellen: COMPAS onder de loep

In de rechtszaal zelf worden algoritmes ingezet om risico’s in te schatten.

In de Verenigde Staten gebruikt de rechterlijke macht software zoals COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Dit programma berekent de kans dat een verdachte opnieuw een misdrijf pleegt.

Het klinkt objectief: leeftijd, strafblad, woonplaats. Maar onderzoek heeft uitgewezen dat COMPAS systematisch fouten maakt. Het schat de kans op herhaling bij Afro-Amerikaanse verdachten vaak hoger in dan bij blanke verdachten, terwijl de daadwerkelijke recidive-cijfers dat niet altijd ondersteunen.

Dit is een direct gevolg van de data waarop het systeem is getraind: een historisch ongelijk strafrechtssysteem.

Naast strafrecht vinden we algoritmes ook in het intellectuele eigendomsrecht (het detecteren van auteursrechtinbreuken) en het contractenrecht (het analyseren van juridische documenten). De Europese Unie werkt aan de 'AI Act', een wet die de is-ought kloof in Europese rechtspraak streng moet reguleren.

De nadelen: Waarom we niet blind kunnen vertrouwen

Hoewel algoritmes snel zijn en schijnbaar objectief, kleven er serieuze nadelen aan. De belangrijkste zijn bias, het 'black box'-effect en het verlies van menselijk oordeel. Zoals gezegd, algoritmes zijn alleen zo goed als de data die ze krijgen.

Bias en de black box

Zit er een vooroordeel in de data, dan zit dat ook in de uitslag.

Dit is het bias-probleem. Maar er is nog een groter issue: de 'black box'.

Veel moderne AI, vooral deep learning modellen, zijn zo complex dat zelfs hun makers niet precies kunnen uitleggen hoe de computer tot een bepaalde conclusie is gekomen. Het proces blijft in een donkere doos. In het recht is transparantie cruciaal.

Een verdachte heeft het recht om te weten waarom hij wordt veroordeeld.

Verlies van menselijk oordeel

Als een computer zegt 'schuldig' maar niet uitlegt waarom, is het onmogelijk om je te verdedigen. Dit ondermijnt de basis van onze rechtstaat. Gelukkig werken ontwikkelaars aan 'Explainable AI' (XAI), systemen die proberen hun denkproces te ontsluiten. Als we te veel vertrouwen op algoritmes, riskeren we een 'deskilling' van professionals.

Rechters en advocaten zouden hun eigen oordeel kunnen verliezen en blindelings vertrouwen op de computer. Een algoritme kan geen compassie voelen of rekening houden met unieke, humane omstandigheden die niet in een database passen. De kunst is dus niet om de mens te vervangen, maar om de computer als hulpje te gebruiken.

De kloof dichten: van 'is' naar 'ought'

Hier komen we bij de kern van het 'is-ought' probleem in het strafrecht. Algoritmes werken met feiten (is): deze persoon heeft een strafblad, deze wijk heeft een hoge criminaliteitscijfer.

Maar de wet gaat over normen (ought): iedereen verdient een eerlijke behandeling, onschuldig tot het tegendeel bewezen is. Het gevaar is dat we de feitelijke uitkomsten van een algoritme verwarren met morele waarheden. Omdat de computer 'zegt' dat iemand een hoog risico is, gaan we geloven dat het ook zo moet zijn. Dit is gevaarlijk.

De oplossing: Een nieuwe kijk op regelgeving

We mogen niet vergeten dat een algoritme geen ethiek heeft; het is een rekenmachine.

Om deze kloof te overbruggen, moeten we stoppen met het zien van algoritmes als neutrale feitenmakers. We moeten ze zien als gereedschappen die gemaakt zijn door mensen, met menselijke vooroordelen. De oplossing ligt in een combinatie van techniek en recht.

Ten eerste hebben we technische maatregelen nodig, zoals het gebruiken van diverse datasets en het inbouwen van 'bias-detectie' in de code. Maar dat alleen is niet genoeg.

We hebben juridische kaders nodig die transparantie afdwingen. Bedrijven en overheden moeten kunnen uitleggen hoe hun systemen werken.

De AI Act van de EU is een eerste stap in deze richting. Daarnaast is een multidisciplinaire aanpak essentieel. Juristen, informatici en ethici moeten samenwerken. Een jurist begrijpt de normen, een informaticus de code. Alleen samen kunnen ze systemen bouwen die de kloof tussen feiten en normen bij AI-regulering overbruggen en recht doen aan onze waarden.

Conclusie: Waakzaam blijven

De opkomst van algoritmes in het recht is onvermijdelijk. Het biedt kansen voor efficiëntie en objectiviteit.

Maar we moeten waakzaam blijven. Het 'is-ought' probleem herinnert ons eraan dat feiten en waarden twee verschillende dingen zijn. Een algoritme kan een uitkomst produceren, maar het bepaalt niet wat rechtvaardig is.

Dat is en blijft een menselijke taak. Door scherp te blijven, transparantie te eisen en onze eigen oordeelsvorming niet uit handen te geven, kunnen we digitale technologie inzetten voor een beter rechtssystem—zonder onze ziel te verliezen.