Daadkracht nodig voor inperking van wildgroei aan AI-regulering

Het demissionair kabinet kwam eind vorige week met een ambitieus, veelzijdig plan om duidelijker kaders te stellen aan overheden en overheidsgerelateerde diensten wat zij wel en niet mogen met algoritmen en gevoelige data in beslismodellen. Er is geen sprake van een juridisch vacuüm, zei minister Kasja Ollongren van Binnenlandse Zaken en Koninkrijksrelaties (BZK) maar wel behoefte aan precieze invulling. "Elke instantie (ministerie van Justitie&Veiligheid, de Algemene Rekenkamer, de Europese Commissie) komt weer met haar eigen toetsingskader zonder dat de verhouding tussen die verschillende toetsingskaders helder wordt gemaakt, concludeert Wolswinkel. "Deze brief [van het kabinet, red] zet ook duidelijk in op doorontwikkeling van de ‘eigen’ richtlijnen tegen data-analyses door overheden. Positief is dat de bewindspersonen nu meer dan voorheen gezamenlijk lijken op te trekken."

Vooral in het laatste van de acht actiepunten die de minister in de voortgangsrapportage opsomt, komt een intentie naar voren tot een integrale aanpak voor de ontwikkeling van eenduidige kaders. "Interessant is de vlucht naar voren in de zin dat men specifieke wetgeving over gebruik van algoritmen overweegt. De brief blijft echter wel vaag op dit punt, anders dan de Europese Commissie die een concreet voorstel heeft gedaan." Hij gaat ervan uit dat overheden door de wildgroei aan initiatieven gebaat zijn bij eenduidige kaders.

Toezichthouders hebben een kennislacune

In de brief kondigt de minister ook aan een onderzoek te doen naar een beter toezicht op de naleving van de regels. Nu zijn daarbij nog verschillende toezichthouders betrokken. Een bundeling van deze taken bij één toezichthouder, waar door verschillende instanties op is aangedrongen, is wat Wolswinkel betreft geen voor de hand liggende oplossing: "Ik vraag mij af wat de meerwaarde ervan is? Als het gebruik van algoritmen en AI onlosmakelijk verbonden is met de overheid van de toekomst, dan zou iedere toezichthouder dat aspect onderdeel moeten laten zijn van zijn toezichtactiviteiten. Hooguit is er nu sprake van een zekere kennislacune bij de bestaande toezichthouders, maar ik denk dat de oplossing daarvoor niet ligt in het instellen van een afzonderlijke toezichthouder voor algoritmen en AI."

Het is nu voor burgers maar ook voor overheden zelf vaak niet duidelijk bij welke beslissingen de inzet van algoritmen een belangrijke invloed hebben. Om die duidelijkheid te verkrijgen, wil de minister toe naar een landelijke algoritmeregister dat publiek inzichtelijk is. De gemeenten Amsterdam, Utrecht en Rotterdam hebben al ervaring met zo'n register. Wolswinkel zet kanttekeningen bij dat plan: "Ik zie zo’n register met name als een ingang om meer over de werking van een algoritme te weten te komen, maar zeker niet als het eindpunt hiervan."

Hij vreest dat de informatie in zo'n register eigenlijk nooit compleet kan zijn. "Staan alle algoritmen erin? Staat alle informatie over het algoritme erin? Het risico is hier natuurlijk dat slechts enkele algemeenheden worden benoemd." Het experiment dat Amsterdam met het register doet, biedt nog niet veel hoop, zo blijkt uit een scriptie die Wolswinkel begeleidde. Maar daar kan nog verbetering in komen. "Dat register is duidelijk nog een bèta-versie en moet ook als zodanig worden beoordeeld. Het is goed om te zien dat een zekere vorm van openheid wordt betracht."

Dat er nu de intentie is binnen de overheden om meer samen op te trekken, vindt Wolswinkel positief. "Tegelijk zal moeten blijken of dat niet alleen in woorden, maar ook in daden blijkt."