Rekenkamer: geen 'volledig zelflerende algoritmen' bij overheid

De ambtelijke leiding van ministeries en de Chief Information Officer (CIO) hebben weinig inzicht in de ontwikkeling van algoritmes. ‘Het gevolg is dat de ministers de risico’s en mogelijke (negatieve) impact van algoritmes op dienstverlening door de rijksoverheid niet tijdig kunnen beperken’, schrijft de Rekenkamer. Bovendien is er geen eenduidige terminologie, wat verklaart dat op verschillende manieren invulling wordt gegeven aan de definities, ontwikkeling en risico’s van algoritmes.

Controleren

‘Een algoritme is niet risicoloos. Verkeerd gebruik van een dataverzameling kan een discriminerende werking hebben als deze vooroordelen bevat.’ Algoritmes mogen niet discrimineren, moeten rekening houden met diversiteit en moeten door mensen te controleren zijn. Hierbij verwijst de Rekenkamer naar SyRI, het fraudesysteem van de overheid waarvan de rechter in februari 2020 oordeelde dat het ‘onvoldoende controleerbaar’ was, waarop het gebruik werd stopgezet.

Geen black box

Het is volgens de Rekenkamer zo dat de overheid ‘relatief eenvoudige algoritmes’ inzet. Hiermee worden automatische besluiten genomen, vaak het automatiseren van een administratieve handeling zoals het versturen van een brief, waarvan de impact op burgers beperkt is. Bij (complexere) lerende algoritmes zijn altijd burgers betrokken. De algoritmes waren voor de Rekenkamer te bekijken en beoordelen – geen ondoorzichtige black box dus.

Toetsing

Onderdeel van het onderzoek was om een toetsingskader te ontwikkelen om de kwaliteit en verantwoorde inzet van algoritmes te toetsen, want dat is er ondanks de grote maatschappelijke aandacht nog niet. En ambtenaren worden steeds vaker ondersteund door de moderne techniek. ‘Met dit toetsingskader kunnen controleurs en auditors in de toekomst algoritmes eenduidig en uniform beoordelen.'

Het Rekenkamerrapport verscheen omdat het kabinet wilde onderzoeken welke maatregelen getroffen moeten worden om negatieve effecten van algoritmen tegen te gaan.