Algoritmes Rijk ondermaats, concludeert Rekenkamer

Algoritmes zijn niet meer weg te denken uit het rijksbeleid. Met behulp van algoritmes worden per maand miljoenen handelingen verricht, problemen opgelost en voorspellingen gedaan. Ze kunnen helpen bij het opsporen van misbruik van sociale voorzieningen, bij afhandelen van pgb-aanvragen, bij controleren van identiteiten, bij het voorspellen van criminaliteit of bij het bepalen van rechtmatigheid voor coronasteun. Dit is echter niet zonder risico’s, zoals duidelijk is gebleken bij het toeslagenschandaal.

Bias en discriminatie

Een verantwoorde inzet van algoritmes door uitvoeringsorganisaties van de Rijksoverheid is mogelijk, stelt de Algemene Rekenkamer, maar in de praktijk niet altijd het geval. De Rekenkamer heeft bij 3 algoritmes vastgesteld dat deze voldoen aan alle basisvereisten. Bij 6 andere bestaan uiteenlopende risico’s: gebrekkige controle op prestaties of effecten, vooringenomenheid, datalek of ongeautoriseerde toegang.

Het zijn vooral de algoritmes die gebruikt worden door de politie, door het directoraat-generaal Migratie van het Ministerie van Justitie en Veiligheid, en door de Rijksdienst voor Identiteitsgegevens die niet voldoen aan de basisvereisten. De laatste twee besteden de ontwikkeling en het beheer ervan uit, maar er zijn geen afspraken wie waarvoor aanspreekbaar is. Dat heeft bijvoorbeeld tot gevolg dat de Rijksdienst voor Identiteitsgegevens niet zelf kan nagaan of het algoritme de kwaliteit van pasfoto’s juist vaststelt. Dit kan discriminatie in de hand werken.

Deze Rijksdienst voert ook geen effectbeoordeling uit op gegevensbescherming. Bij het door algoritmes aangedreven criminaliteitsanticipatiesysteem van de politie ontbreekt onder meer controle op mogelijke vooringenomenheid. Dit politiesysteem voorspelt waar het risico op incidenten hoog is.

Ongeautoriseerde toegang

Bij 6 van 9 onderzochte organisaties is niet duidelijk welke medewerkers toegang hebben tot de data en het gebruikte algoritme. Ongeautoriseerde toegang tot systemen kan tot beschadiging of verlies van data leiden, met soms grote gevolgen voor burgers of bedrijven. Staatssecretaris van digitalisering Alexandra Van Huffelen heeft laten weten met de uitvoeringsorganisaties aan de slag te gaan om de tekortkomingen aan te pakken. Zij wil de Tweede Kamer voor het zomerreces informeren over vervolgstappen.

Algoritme-overzichtsrapport van de Algemene Rekenkamer:

Dit artikel verscheen oorspronkelijk op Binnenlands Bestuur.