D66'er Schaake wil algoritmes wettelijk toetsen

Schaake haalt in haar opinie een aantal keren China aan, waar apps massaal data verzamelen en die gebruiken om mensen op basis van gedrag scores te geven. Ze waarschuwt dat wat er in China gebeurt geen ver-van-ons-bedshow is. Want we weten niet of er weinig of te veel offline wordt gehaald zonder dat we algoritmen kunnen controleren.

Ook in de westerse wereld schakelen niet alleen bedrijven algoritmen in. “Recht op voorlopige vrijlating uit gevangenissen, de kans op het terugbetalen van een lening, 'goed gedrag': ook in open samenlevingen kunnen door algoritmen gestuurde keuzes grote gevolgen hebben. Zeker als de overheid die inzet. In New York City besliste de gemeenteraad vorig jaar daarom dat mensen het recht moeten hebben om in beroep te gaan tegen geautomatiseerde beslissingen waar zij nadeel van ondervinden.”

Ethiek is te zacht

In een opinie op Trouw schrijft ze dat het goed is dat er wordt ingezet op meer ethiek om de uitwassen van kunstmatige intelligentie tegen te gaan, maar dat er meer nodig is. Schaake schrijft: “Ethiek is immers 'zacht', en onderwerp van discussie. Het beschermen van universele mensenrechten, in wetten en rechtsstatelijkheid, is 'harder'.”

Ze pleit voor nieuwe kennis en bevoegdheden voor toezichthouders. Voorbeelden die ze noemt van organisaties die toezicht kunnen houden op de algoritmen zijn anti-discriminatiemeldpunten, privacy-waakhonden en de Autoriteit Consument en Markt. Schaake vindt dat het bewaken en toetsen van de fundamentele principes niet bij private bedrijven of bij de overheid kan liggen. “Zo werkt het Chinese top-downmodel ook. Kritiek op de president, zelfs als daarvoor de metafoor van Winnie de Poeh wordt gebruikt, is binnen enkele minuten gecensureerd”, schrijft ze.