Verkiezingsblog 2023 #9: Digitalisering, AI en algoritmische besluitvorming: wie steekt zijn nek uit?

Wat zeggen de verkiezingsprogramma’s 2023 over algoritmische besluitvorming? Een mooi overzicht is te vinden op de website van Dutch Cowboys, met onder andere een grafiek van het Amsterdam Data Collective (ADC) die de aandacht voor AI en algoritmen per partij weergeeft. Een uitputtend overzicht hoeft deze blogbijdrage dus niet meer te bieden. Dat geeft de mogelijkheid in te zoomen op een specifieke vraag: is het als kiezer nu zinvol om je keuze te laten afhangen van de standpunten van partijen op het vlak van algoritmische besluitvorming en AI?

Volgens Stemwijzer en Kieskompas is dit alvast niet het geval. De toegenomen aandacht voor algoritmische besluitvorming en AI heeft zich namelijk nog niet vertaald naar een rol voor het thema in de Stemwijzer of het Kieskompas. Noch daar, noch in de Stemchecker van de Volkskrant (“de kieswijzer die kijkt naar hoe partijen daadwerkelijk hebben gestemd in plaats van wat ze beloven”) komt ook maar een enkele stelling over digitalisering, AI of algoritmische besluitvorming voor. Ook speelt digitalisering geen rol in de thema’s die gebruikers kunnen aanvinken om het relatieve gewicht van hun antwoorden te laten aanpassen. Onderdeel van digitalisering is óók dat dit soort voting advice applications belangrijker worden (en potentieel geavanceerder). We weten nog niet genoeg over de invloed van dit soort online stemadviesapplicaties, om te kunnen stellen dat de selectie van onderwerpen de verkiezingsuitslag dusdanig beïnvloedt dat er een bijzondere verantwoordelijkheid op de makers rust. Maar deze applicaties hebben ongetwijfeld enig ‘agenda-setting effect’ en in dat opzicht is het ontbreken van digitalisering en AI een gemiste kans. De vraag waarom sommige belangrijke onderwerpen niet aan bod komen in de Stemwijzer beantwoordt ProDemos overigens zelf op de website: “De redactie van de StemWijzer stelt de stellingen op op basis van verschillende bronnen: kiezersonderzoek, verkiezingsprogramma’s en nieuwsmedia. Daarnaast hebben we jongeren gevraagd wat zij belangrijke thema’s vinden voor de verkiezingen. De redactie van de StemWijzer kiest onderwerpen die op dit moment spelen onder kiezers en in de media. Maar ook de mate waarin partijen van mening verschillen over een onderwerp, is een belangrijk selectiecriterium.” Dus ofwel de redactie en/of de geraadpleegde jongeren vinden digitalisering niet belangrijk genoeg, ofwel partijen verschillen er niet voldoende over van mening.

Is ‘digitalisering en AI’ – om het onderwerp iets breder te nemen dan ‘algoritmische besluitvorming’ – nu inderdaad zo’n thema waar partijen het eigenlijk wel over eens zijn? Op een abstract niveau is dat in grote lijnen wel het geval. Want wie is er nu geen voorstander van privacy, besluitvorming waarin de mens centraal staat of digitale veiligheid? Kijkend naar concrete voorstellen, waarvan er dit keer veel meer zijn dan in 2021, zijn er wel verschillen. Eén voorbeeld is anonimiteit op sociale media. D66 en Forum voor Democratie vinden dat dit mogelijk moet blijven, de ChristenUnie en het CDA niet. Dit had overigens misschien best een aardige stelling kunnen opleveren voor de voting advice applications, ook al omdat standpunten over digitale grondrechten blijkbaar niet netjes op de ‘links-rechts’ of ‘progressief-conservatief’-as geplaatst kunnen worden. Eén van de concrete hete hangijzers van dit moment is de vraag of de Algemene Verordening Gegevensbescherming (AVG) nog wel past bij de opkomst van datagedreven processen in het openbaar bestuur. Waar GroenLinks/PvdA onverkort inzet op het beter handhaven van de AVG, “met name in de publieke sector”(p. 69-70), houdt de ChristenUnie een genuanceerder betoog door te stellen dat de AVG te snel een obstakel is voor de uitwisseling van data. Privacy is weliswaar een fundamenteel maar geen absoluut recht. Teveel “verlegenheid” rond het uitwisselen van gegevens tussen (overheids)instanties kan ook ten nadele van mensen werken. De ChristenUnie zet in op meer duidelijkheid over wat wel en niet mag.

Een populair thema is ‘digitalisering/AI in het onderwijs’, maar echt grote meningsverschillen zijn er hier niet, of het moet zijn dat Forum voor Democratie de uitkomsten van het voorgestane “[o]nderzoek naar nefaste gevolgen digitalisering op leerprestaties” (p. 23) alvast beweert te kennen (“nefast”). BVNL en ChristenUnie formuleren het neutraler. Volgens de eerste is het “een taak voor de overheid om na te gaan hoe AI bijvoorbeeld kan worden geïncorporeerd in het onderwijs” (BVNL, p. 57). En ChristenUnie stelt de open vraag “[i]n hoeverre […] AI een bijdrage aan of een belemmering voor de kwaliteit van het onderwijs en de ontwikkeling van jongeren [is]?” (CU, p. 33). Eensgezindheid is er ook op het thema van ‘end-to-end encryptie’, dat alle partijen die het noemen (BVNL, D66, GroenLinks/PVDA, Partij voor de Dieren, BIJ1, NSC ) willen beschermen, in het geval van D66 en GroenLinks/PVDA zelfs als grondrecht. Op dit punt nemen de partijen vooral stelling tegen de Europese Commissie, die graag regels zou willen om toezicht te kunnen houden op de inhoud van chat-apps.

Aandacht voor nieuwe regelgeving op het vlak van AI vanuit Europa is er verder alleen bij het CDA, GroenLinks/PvdA, ChristenUnie en D66. De drie eerstgenoemde partijen houden het algemeen: het CDA wil “een stevige Europese inzet en landelijke borging” zodat AI “ten dienste [staat] van onze waarden en normen”, p. 26), de ChristenUnie noemt een Europese zorgplicht voor digitale platforms en hostingbedrijven (p. 100) en GroenLinks/PvdA streeft ernaar dat “de EU haar schaalgrootte benut om technologie te ondersteunen, te ontwikkelen en aan regels te verbinden die recht doen aan Europese waarden” (p. 16). In het D66-verkiezingsprogramma wordt heel concreet ingegaan op meerdere Europese wetgevingsinitiatieven. Zo wil de partij verder gaan dan de huidige verplichting voor sociale mediaplatforms uit de Europese Wet inzake digitale diensten om gebruikers een alternatief algoritme aan te bieden: “D66 wil dat niet-gepersonaliseerde algoritmes de standaard worden en dat mensen altijd betekenisvolle toestemming geven om inhoud op basis van gepersonaliseerde algoritmes te zien” (p. 194).

Zonder te specificeren of dit op Europees of nationaal niveau geregeld zou moeten worden, stelt de ChristenUnie voor om trainingsdata (= de input) van algoritmen, en dan met name de kwaliteit en het type data, te gaan reguleren (p. 99). “Training van modellen op generieke kenmerken (zonder oorzakelijk verband met de voorspelde waarde)” wordt zelfs verboden als het aan de ChristenUnie ligt. Dit voorstel is, net als het idee om organisaties die algoritmen gebruiken te dwingen meer openheid te geven over de trainingsdata en de gemaakte afwegingen bij de ontwikkeling van het model, interessant, maar het is jammer dat niet duidelijk wordt hoe dit zich zou moeten verhouden tot de op handen zijnde AI-verordening van de EU en AI-verdrag van de Raad van Europa. Die aansluiting is juist wel weer goed op orde bij D66, bijvoorbeeld waar die partij voorstelt overheden te verplichten ‘hoog-risico’ algoritmen – een term die overeenkomt met de terminologie van de AI-verordening – in te vullen in het landelijke algoritmeregister en expliciet oproept tot ondertekening van het (overigens nog niet gereed zijnde) AI-Verdrag (p. 195). Het CDA zoekt de versterking van digitale grondrechten, “zoals het recht op transparantie en het recht op eigenaarschap van data” (p. 12) op nationaal niveau, namelijk in de Grondwet, maar voegt daar wel aan toe dat “internationale verdragen van de VN, de EU en de Raad van Europa moeten worden aangepast aan mensenrechtenbescherming in het digitale tijdperk” (p. 12). NSC is voorstander van “strakke wetgeving rondom algoritmes en AI” en wil “[o]penheid en transparantie over digitale systemen en beslisregels (algoritmen)” garanderen bij overheidsdiensten” maar specificeert dit niet nader (p. 62). Het NSC-voorstel voor “een wetenschappelijke standaard over wanneer modellen gebruikt kunnen worden voor beleid en wanneer niet”, klinkt heel concreet en serieus, maar komt uiteindelijk neer op een illusie, aangezien er altijd een afweging ten grondslag zal liggen aan de inzet van algoritmen voor beleid.

Ook de VVD blijft op de vlakte op het punt van regulering van AI en algoritmische besluitvorming. Zo stelt zij bijvoorbeeld alleen dat er geen gebruik wordt “gemaakt van afkomstgerelateerde gegevens zoals nationaliteit, tenzij dit rechtmatig en objectief gerechtvaardigd is (p. 73)”, waarmee eigenlijk niet veel meer wordt gezegd dan dat algoritmegebruik niet onrechtmatig zou moeten zijn. Ook heeft de kiezer niet heel veel aan de VVD-stellingen dat “[a]lgoritmen worden gecontroleerd op transparantie, discriminatie en willekeur” en dat “[h]et gebruik van algoritmen in de publieke en private sector […] transparant [moet] zijn” (VVD, p.73). Over de meer abstracte inhoudelijke normen op dit vlak is namelijk een brede consensus onder experts, in de samenleving en, zoals hierboven al geconstateerd, ook onder politieke partijen. De vraag hoe deze normen te laten ‘landen’ in organisaties zodat ze daadwerkelijk effect gaan sorteren is veel ingewikkelder. Het CDA zit er qua concreetheid een beetje tussenin door zich sterk te maken voor betere rechtsbescherming voor burgers bij geautomatiseerde besluitvorming door de overheid door middel van “een recht op inzicht in de gegevens en de algoritmes die de overheid gebruikt” (p. 70) – een belangrijke stap, waarvan we eigenlijk ook al weten dat deze niet voldoende is.

Waar de VVD wél concreet wordt, is bij het benoemen van de positieve kanten van AI (“Kunstmatige intelligentie verzilveren”, p. 39). Opvallend is het voorstel AI in te zetten bij het toezicht op slachthuizen (VVD, p. 62). Maar dan is er ook de volgende passage, die toch weer de vraag ‘maar hoe dan?’ oproept: “Er is nu al heel veel mogelijk, maar te vaak en te veel is digitalisering of automatisering, het gebruik van data of AI, nog iets dat er een beetje bij gedaan wordt. Dat moet echt veranderen. Geen pilots en proeftuinen meer, we weten inmiddels wel dat het kan. Nu moeten we het gaan doen.” (VVD, p. 64). Net een slag concreter is de belofte van de BBB om zich in te zetten “voor het creëren van mogelijkheden om datawetenschap en kunstmatige intelligentie effectief te benutten voor een verbeterde overheidsdienstverlening” (p. 84).

Een paar losse observaties:

• Het woord ‘black box’ lijkt uit de mode en komt alleen voor bij de Partij voor de Dieren.
• Aandacht voor het (hoge) energieverbruik van digitale technologieën is er bij de Partij voor de Dieren (p. 80-81), Volt (p. 40), GroenLinks/PvdA (p. 69-70) en D66 (p. 195).
• Waar men zich in 2021 nog blind staarde op de Autoriteit Persoonsgegevens (AP) als dé algoritmetoezichthouder, passeren er nu meerdere de revue. Bij D66 zijn dat “de Autoriteit Financiële Markten, de Autoriteit Consument & Markt, de Autoriteit Persoonsgegevens en het Commissariaat voor de Media”. De ChristenUnie doopt de AP om tot ‘Waakhond Digitale Veiligheid’.
• Naast zo’n autoriteit wordt een “Minister van Digitalisering” regelmatig genoemd (BBB p. 83, D66 p. 192, Volt, p. 4).
• De in de literatuur zo populaire ‘mensenrechtentoets’, die het Europees Parlement ook voorstaat in de onderhandelingen over een AI-verordening, komt opvallend genoeg alleen bij D66 (p. 193) en Volt (p. 117) voor.
• Die laatste partij maakt, bij mij persoonlijk althans, goede sier met een voorstel voor een “digitale toets […] bij het maken van wet- en regelgeving, zodat al bij het ontwerpen van nieuw beleid rekening wordt gehouden met de impact daarvan op de ICT in de uitvoering” (Volt, p. 117).
• De prijs voor het meest opvallende voorstel gaat naar de ChristenUnie voor het ‘Datajubeljaar’ dat een ‘digitale schone lei’ voor mensen moet faciliteren – het slachttoezicht krijgt een eervolle vermelding.

Partijen verschillen dus enigszins van mening op bepaalde specifieke kwesties rond digitalisering, AI en algoritmische besluitvorming. Maar het verschil zit hem vooral in de deelonderwerpen waar ze wel en niet aandacht aan besteden en, vooral, hoeveel. Voor wie digitalisering en AI wel belangrijk vindt, maar geen sterke mening heeft over een bepaald deelonderwerp binnen dit thema, is de hoeveelheid aandacht die partijen aan het onderwerp besteden, mogelijk een relevante factor. Volt, ChristenUnie en D66 hebben de meeste tekst en steken met gedetailleerde voorstellen het verst hun nek uit; de PVV en de SGP hebben verreweg de minste tekst over het onderwerp. Zoals hierboven al genoemd zijn veel burgers, experts en politici het over de beleidsdoelen op het vlak van digitalisering en AI in grote lijnen wel eens; antwoorden op de vraag hoe daar te komen zijn veel minder uitgekristaliseerd. De partijprogramma’s die veel aandacht aan het thema besteden, leveren daarom een waardevolle bijdrage aan die ‘hoe’-discussie. Goed nieuws is ten slotte dat over bijna de hele linie, afgaande op de diversiteit aan invalshoeken en de mate van concreetheid van de relevante passages, de kennis over en aandacht voor het onderwerp bij politieke partijen lijkt te zijn toegenomen. Nu de voting advice applications nog.