Overheidsinstanties krijgen meldplicht voor algoritmes

Algoritmes worden steeds vaker voor automatische besluitvorming door overheden en overheidsinstanties gebruikt, stellen de Kamerleden in de motie. Dat brengt echter ook risico's met zich mee, bijvoorbeeld op ongelijke behandeling en uitsluiting. 

Om te voorkomen dat de algoritmes tot dergelijke problemen leiden, moet de regering beter zicht krijgen op welke algoritmes er gebruikt worden. Via een meldplicht moet dat bewerkstelligd worden. 

De motie was een reactie op de berichtgeving van de NOS dat de overheid op grote schaal algoritmes gebruikt, bijvoorbeeld om fraude op te sporen of om in te schatten wat voor zorg iemand nodig heeft. "Daardoor werd ik bang voor een wildgroei aan algoritmes", stelt Verhoeven. Nu is namelijk niet duidelijk wat er hoe en waar ingezet wordt en waarvoor dan. 

Besluiten over mensenlevens

De verplicht gestelde meldplicht geldt alleen voor "ingrijpende algoritmes". Welke algoritmes daar wel en niet onder vallen, is nog niet helemaal duidelijk, vertelt Verhoeven desgevraagd. 

"Het gaat me specifiek om een paar grotere thema's waar algoritmes ingezet worden om besluiten te maken over mensenlevens. Denk bijvoorbeeld aan de toegang tot de woningmarkt of toeslagen. Als iemand een bepaalde toeslag niet meer toegekend krijgt omdat een algoritme dat besloten heeft, lijkt dat me ingrijpend."

Dat betekent echter ook dat lang niet alle algoritmes onder de meldplicht vallen. "Er zijn natuurlijk ook allerlei algoritmes die heel klein zijn en geen ingrijpende gevolgen hebben voor mensen, maar wel heel nuttig zijn voor bedrijven. Die hoeven niet gemeld te worden."

Het 'veld' raadplegen

Een specifiekere definitie voor welke algoritmes er wel en niet onder de meldplicht vallen, komt pas als er een wet of besluit komt. "Er is natuurlijk een groot grijs gebied waarin niet duidelijk is of iets nu wel of niet gemeld moet worden", aldus het Kamerlid. 

Om die definitie tot stand te brengen, wordt waarschijnlijk hulp ingeroepen van deskundigen en 'het veld'. "Het is tegenwoordig duidelijk dat we op dit punt moeten luisteren naar het veld en daar advies in moeten winnen. We moeten goed opletten dat we geen instrument inzetten om een probleem op te lossen, dat vervolgens weer een ander probleem creëert."

Toekomstige toezichthouder

De Tweede Kamer is al langer bezig met het verscherpen van het toezicht op het gebruik van algoritmes bij overheidsinstanties. In juni stemde de Kamer bijvoorbeeld al in met de komst van een toezichthouder voor algoritmes.

Die toezichthouder moet achteraf in kunnen grijpen als een overheid onnodig royaal gebruikmaakt van algoritmes of als het gebruik ervan verkeerd uitpakt. Of de rol van toezichthouder ingevuld wordt door een bestaande instantie of dat er een nieuwe waakhond in het leven wordt geroepen, is niet bekend. Het ministerie van Binnenlandse Zaken werkt hier nu een voorstel over uit. 

Als de toezichthouder er straks is, moeten overheidsinstanties daar zelf melding gaan maken van de gebruikte algoritmes.