Kabinet scherpt toezicht op gebruik AI en algoritmen aan

Het is niet zo dat het gebruik van algoritmen nu in een juridisch vacuüm valt, stelt demissionair minister Kasja Ollongren van Binnenlandse Zaken en Koninkrijkrelaties (BZK) in een brief aan de Tweede Kamer. Maar de kaders bestaan veelal uit open normen waardoor onzekerheid bestaat over de praktische uitleg van deze normen wanneer een organisatie algoritmen inzet. Dat is de belangrijkste reden dat het kabinet die kaders de komende tijd verder wil invullen.

Ollongren heeft samen met de demissionair ministers Sander Dekker (Rechtsbescherming) en staatssecretarissen Raymond Knops (BZK) en Mona Keijzer (Economische Zaken en Klimaat) een agenda met een reeks actiepunten opgezet. Daarin komt onder meer aan de orde dat er aanvullende wetgeving nodig is met betrekking tot de verwerking van persoonsgegevens om discriminatie te voorkomen. Ook wordt het begrip 'persoonsgegeven' beter ingevuld, nu blijkt dat anoniem verwerkte gegevens met de inzet van nieuwe technische mogelijkheden toch herleid kunnen worden op individuen.

Transparantie moet beter

Ook gaat het kabinet zich - in samenwerking met Europese initiatieven - inzetten om te komen tot normering, toezicht en transparantie van algoritmen. Daarbij wordt onder meer meegewerkt aan een Europese haalbaarheidsstudie voor de opzet van een juridisch raamwerk voor AI waarin fundamentele rechten, de democratie en de rechtsstaat gewaarborgd worden. Eind dit jaar moet deze studie klaar zijn. Om de transparantie te vergroten wordt bovendien gedacht aan het opzetten van een algoritmeregister. Amsterdam, Utrecht en Rotterdam doen daar al proeven mee.

Het kabinet werkt aan een wetsvoorstel waarmee gemeenten en uitvoeringsorganisaties verplicht worden het publiek inzicht te geven waar algoritmen en data-analyse worden ingezet bij besluitvorming. Verder worden de richtlijnen voor de inzet van data-analyse door de overheid verder uitgewerkt. De richtlijnen die er nu zijn, hebben vooralsnog geen verplichtend karakter. Het streven is een levend document te ontwikkelen, dat wordt aangepast wanneer inzichten veranderen. Het kabinet gaat een commissie instellen die de ethische en juridische aspecten van deze richtlijnen gaat beoordelen.

Hulpmiddelen in de maak

Er komt een 'Toolbox ethisch verantwoord ondernemen' met een aantal instrumenten die overheden en bedrijven ondersteunen bij het nakomen van wettelijke verplichtingen en het verantwoord inzetten van AI en algoritmen. Voorbeelden van die instrumenten zijn de Impact assessment voor mensenrechten bij de inzet van algoritmen (IAMA), de Handreiking systeemprincipes non-discriminatie en de Code Goed Digitaal Openbaar Bestuur. Het Rathenau Instituut gaat kijken naar de praktische toepasbaarheid van die instrumenten.

Verder stelt het kabinet geld beschikbaar voor onderzoek en experimenten met kunstmatige intelligentie die mensenrechten borgt en versterkt. Eind dit jaar volgt er een analyse van de resultaten van deze experimenten.

Betere stroomlijning toezicht

Tenslotte wil het kabinet onderzoeken of het mogelijk is om te komen tot één toezichtkader om het gebruik van AI en algoritmen in de gaten houdt. Nu is er afdoende toezicht geregeld maar er is wel sprake van fragmentatie doordat dit toezicht verdeeld is over verschillende toezichthouder zoals de Audit Dienst Rijk (ADR)  en de Algemene Rekenkamer (ARK).