ChatGPT in de rechtszaal: wen er maar vast aan

Deze maand kwam naar buiten dat een kantonrechter ChatGPT gebruikte voor zijn uitspraak. De rechter nam een gedeelte van de tekst van de populaire AI-chatbot over in zijn vonnis. Daarover ontstond veel ophef in de media en er werd getwijfeld of de inzet van ChatGPT in de rechtszaal toelaatbaar en verantwoord is. Toch moeten we hier niet zo paniekerig over doen. Het hoeft geen probleem te zijn dat rechters ChatGPT gebruiken bij hun werk, mits er duidelijke spelregels zijn. Sterker nog, net als in veel andere sectoren kan het gebruik van AI het werk van rechters ondersteunen, verlichten en zelfs verbeteren.

De rechter in Gelderland moest een zaak beslechten tussen twee buren. De een had een verdieping op zijn huis gebouwd, waardoor de ander vreesde dat zijn zonnepanelen minder zouden opleveren. Om te kunnen bepalen hoeveel minder de zonnepanelen zouden opleveren, vroeg de rechter aan ChatGPT naar de gemiddelde levensduur van zonnepanelen en de actuele stroomprijs per kilowattuur. In zijn vonnis vermeldde hij deze gegevens en voegde eraan toe dat deze informatie via ChatGPT was verkregen.

ChatGPT is een chatbot, een taalmodel, gebaseerd op kunstmatige intelligentie (AI) en genereert tekst die je verwacht in reactie op de vraag die je stelt. Hoewel dit taalmodel steeds beter wordt, is het niet zo goed in cijfers. Als ChatGPT wordt gevraagd naar numerieke gegevens zoals een paginanummer, het nummer van wetsartikel of economische data, komen er niet altijd de juiste cijfers en statistieken uit. De leesbaarheid van een tekst wordt immers niet beter of slechter als een cijfer onjuist is.

Daar ging het dus mis in deze casus. De rechter bevroeg ChatGPT op een manier waarvoor het instrument niet bedoeld is. De data kunnen onbetrouwbaar zijn en daardoor kan een rechter een onjuiste conclusie trekken. Al viel dat in dit geval nog wel mee, de cijfers zaten er niet heel ver naast. Bovendien werd de vordering afgewezen, waardoor de cijfers geen verdere rol speelden in de schadevergoeding. Als de rechter dit aan Google of een andere zoekmachine had gevraagd, was er waarschijnlijk minder ophef ontstaan, misschien afhankelijk van welke website hij uit de zoekresultaten zou selecteren en citeren. De uitkomst van de zaak zou niet heel anders zijn geweest.

Mits op de juiste manier gebruikt, is ChatGPT juist een instrument dat veel kan bijdragen aan het werk van rechters. De rechtspraak kampt met enorme uitdagingen, zoals hoge werkdruk, lange wachttijden, drempels voor toegang tot het recht en soms uitspraken die voor burgers en betrokkenen ingewikkeld en onbegrijpelijk zijn. AI-tools kunnen bestaande teksten beter structureren en beter leesbaar maken. Daarnaast kunnen ze ook teksten genereren. Dat biedt veel mogelijkheden om het werk van rechters te verbeteren. Om de werkdruk acceptabel te houden zijn veel uitspraken kort en niet uitvoerig gemotiveerd. Meer onderbouwing en toelichting kan het rechtsgevoel van betrokkenen en acceptatie van een uitspraak vergroten. Kortom, ChatGPT of vergelijkbare instrumenten die specifiek voor de rechtspraak worden ontwikkeld kunnen werklast verminderen, draagvlak vergroten en de kwaliteit van de rechtspraak verhogen.

Een deel van de verontwaardiging lijkt gestoeld op de gedachte dat de rechter die ChatGPT gebruikte de beslissing uit handen gaf waarvoor hij zelf verantwoordelijk is. Het zou de rechter moeten zijn die uiteindelijk beslist, niet de software. Dit lijkt op de discussie die universiteiten voeren over het gebruik van ChatGPT door studenten. Studenten kunnen eenvoudig hun opdracht of scriptie laten schrijven door een chatbot, maar als het geen eigen werk is, is het fraude. Universiteiten gaan hier vooralsnog heel verschillend mee om. Als een student ChatGPT gebruikt als hulpmiddel (bijvoorbeeld om een tekst beter leesbaar te maken) is er niet zoveel aan de hand, maar als ChatGPT de hele tekst schrijft, is het plagiaat. Bij een rechter is het vergelijkbaar: ChatGPT kan een hulpmiddel zijn, maar de rechter moet uiteindelijk zelf beslissen en motiveren. Dat is in de casus van de zonnepanelen overigens ook gebeurd.

Daarnaast moet er altijd transparantie zijn over het gebruik van ChatGPT of andere AI. Dat is belangrijk want iedereen moet de afwegingen van een rechter die leiden tot de uiteindelijke beslissing goed kunnen volgen. De rechter kan net zomin als de AI een niet-onderbouwde ‘black-box’ beslissing nemen. De motivering van een vonnis is relevant voor zowel materiële als procedurele rechtvaardigheid en daarmee belangrijk voor de acceptatie van het vonnis door betrokkenen. De rechter in de zaak van de zonnepanelen was duidelijk dat hij ChatGPT had gebruikt en op welke wijze.

ChatGPT en andere AI-tools worden al in allerlei sectoren gebruikt, ook in zeer gevoelige context, zoals bijvoorbeeld in de medische wereld of in de opsporing. Als de rechtspraak baat kan hebben bij het gebruik van deze instrumenten, moeten we daar niet te paniekerig over doen, maar juist goed kijken hoe AI op een verantwoorde manier kan bijdragen. Instrumenten op maat zullen wellicht beter zijn dan ChatGPT, maar ook rechters gebruiken soms Google in plaats van hun eigen kennismanagementsystemen.

Verantwoord gebruik van AI begint met gezond verstand. De rechter moet zich bij het nemen van beslissingen goed informeren, maar uiteindelijk zelf beslissen, daarvoor is hij verantwoordelijk. AI is slechts een middel dat kan bijdragen in de besluitvorming. Omdat de ICT-kennis binnen de rechterlijke macht soms wel wat beter kan, is opleiding en training belangrijk. Rechters die alles inzetten om tot een juiste en rechtvaardige beslissing te komen laten zien dat ze midden in de maatschappij staan, zich goed informeren en hun beslissingen zorgvuldig onderbouwen. Het gebruik van AI in de rechtszaal zal naar verwachting de komende jaren alleen maar toenemen, dus wen er maar vast aan.