Minister: ‘Gemeenten zijn zelf verantwoordelijk voor gebruik algoritmen’

Renske Leijten van de SP vroeg Bruins Slot om opheldering over het gebruik van algoritmen door lokale overheden, voor onder meer het opsporen van uitkeringsfraude. De Rekenkamer Rotterdam concludeerde eerder dat er onvoldoende aandacht is voor ethische principes bij algoritmen die worden ingezet bij het opsporen van uitkeringsfraude.

De minister schrijft daarover onder meer dat het niet aan haar is om erover te oordelen. “Het is belangrijk dat overheden zich aan de regels houden, ook als zij algoritmen inzetten bij het uitoefenen van hun taken. In dit geval is de gemeente Rotterdam daar zelf voor verantwoordelijk.”

Volgens Bruins Slot moeten de Autoriteit Persoonsgegevens (AP) en uiteindelijk de rechter controleren en beoordelen of algoritmen aan de AVG voldoen. Op de vraag of de minister onderzoek wil doen naar soortgelijke algoritmen bij lokale overheden luidt het antwoord dat er steeds meer inventarisaties op dit gebied gaande zijn, onder meer door de Algemene Rekenkamer en TNO begin 2021.

Eigen verantwoordelijkheid

“Gelet op hun eigen verantwoordelijkheid voor het naleven van de regelgeving, is het de eigen verantwoordelijkheid van provincies en gemeenten om waar nodig onderzoek te laten doen, via de Provinciale Staten of Gedeputeerde Staten en gemeenteraad of B&W”, zo schrijft Bruins Slot. Ze stelt verder dat er al veel onderzoek gebeurt en wijst erop dat er al diverse mogelijkheden bestaan via de AP en rekenkamers om onderzoek te doen naar de werking en impact van algoritmen.

Een gemeente is niet verplicht om burgers vooraf ervan op de hoogte te stellen dat zij onderwerp zijn van een onderzoek, zo schrijft de minister die nog wel benadrukt dat het kabinet hecht aan zoveel mogelijk transparantie rondom het gebruik van algoritmen. Het opzetten van een algoritmeregister moet daarbij helpen. “De gemeente Rotterdam recentelijk zo’n register online gezet. Hierin zijn de eerste algoritmen opgenomen en de bedoeling is dat dit verder wordt uitgebreid.”

Vervolgonderzoek

Bruins Slot stelt daarnaast dat wanneer een algoritme leidt tot een vervolgonderzoek, de betrokkene moet worden gehoord. “Daarbij moet de betrokkene worden geïnformeerd dat het onderzoek het resultaat is van een algoritme en moet worden toegelicht hoe het algoritme werkt zodat een betrokkene daarop kan reageren en eventuele onjuistheden kan tegenspreken.”