Algoritmes in Nederland vallen nu onder toezicht van privacywaakhond

"Algoritmes en artificiële intelligentie spelen een steeds grotere rol in ons leven", stelt AP-voorzitter Aleid Wolfsen in de aankondiging van het algoritmetoezicht. Enerzijds biedt die grotere rol vele kansen en maakt het belangrijke innovaties mogelijk, zo geeft hij aan. "Maar de dreiging om de mens en de menselijke maat daarbij uit het oog te verliezen, ligt op de loer."

Grote impact op werk en leven

"Algoritmes kunnen grote impact hebben op mensenlevens en op onze samenleving. Bijvoorbeeld of je wel of niet een lening krijgt, of je aan extra controle wordt onderworpen en of je wel of niet wordt uitgenodigd voor een sollicitatiegesprek." Toezicht op en transparantie van algoritmes is dan ook van groot belang, om misstanden te voorkomen.

Wolfsen heeft samen met minister Franc Weerwind (van Rechtsbescherming) en staatssecretaris Alexandra van Huffelen (verantwoordelijk voor Digitalisering) de aftrap gegeven voor de nieuwe toezichthoudende activiteiten van de AP. Deze worden gevat in de nieuwe afdeling (een zogeheten directie) Coördinatie Algoritmes. De privacywaakhond breidt hiermee uit naar het opbloeiende terrein van algoritmes en AI.

Bezetting

Voor deze nieuwe taken krijgt de AP vanaf dit jaar 1 miljoen euro, wat oploopt naar een structureel budget van 3,6 miljoen euro in 2026. Voor het startbudget kan de AP zo'n tien mensen aannemen, schat Wolfsen. Die mensen komen dan uit de AP zelf, van andere toezichthouders en uit de techsector. In de beginfase wordt vooral samenwerking gezocht met andere toezichthouders, die met algoritmes te maken hebben of krijgen.

Hoewel Wolfsen vindt dat de AP nog altijd "royaal te klein" is voor het werk dat de toezichthouder moet verrichten, verwacht hij wel dat de nieuwe taak van meet af aan goed ingevuld kan worden. "We hebben natuurlijk onze reguliere onderzoeken en onze onderzoeksafdeling let hier ook op", aldus de voorzitter. "Het versterkt ook het gewone werk. Alleen het is nog relatief klein allemaal."

Polderen

Het nieuwe toezicht op algoritmes en AI houdt wel het bestaande toezicht intact, wat ligt bij diverse instanties: colleges, markttoezichthouders en rijksinspecties. Deze schijnbare doublure is vanwege het feit dat algoritmes in alle sectoren zijn te vinden. De AP legt uit dat het dus van belang is "om overkoepelend in de gaten te houden wat de generieke en specifieke risico’s en effecten zijn van algoritmes".

In het afgelopen jaar heeft de AP samen met andere colleges, markttoezichthouders, rijksinspecties, stakeholders en experts uitgewerkt hoe het algoritmetoezicht moet worden ingericht. "Dat dit gezamenlijk gebeurt, is logisch", aldus Wolfsen. "Ook andere instanties hebben veel ervaring met het toezicht op algoritmes, net als de AP. Met elkaar kunnen we veel kennis en inzicht bundelen. Mede dankzij ieders input, meedenken en tegendenken is nu de basis gelegd voor dit brede, domeinoverstijgende algoritmetoezicht."