AP-voorzitter waarschuwt voor keerzijde algoritmen

Wolfsen schrijft in zijn blog dat gegevensverwerkingen de maatschappij veel brengen. Hij verwijst onder meer naar machine learning. "Algoritmes sporen bijvoorbeeld slokdarmkanker al sneller op dan een dokter en zijn al in staat om ernstige complicaties bij geboortes te voorkomen. Ook fraude kan er efficiënter mee worden opgespoord. Zelfs gedrag voorspellen gaat steeds beter."

Maar er dreigt volgens Wolfsen ook gevaar. "Wie de glimmende medaille van de vooruitgang durft om te draaien, ziet het complete verhaal. Want ‘wat geweldig dat dit kan’ en ‘bloedlink wat hier gebeurt’ komen hier akelig dicht bij elkaar."

Focusgebied

Algoritmes is volgens Wolfsen één van de focusgebieden voor de AP de komende jaren, omdat deze steeds vaker mensen in een profiel plaatsen. "Bijvoorbeeld wel of geen hypotheek, wel of niet ergens klant of medewerker mogen worden of wel of geen korting op een verzekering. U begrijpt, wanneer u dit als organisatie niet volgens de beginselen van de AVG – rechtmatig, behoorlijk en transparant - doet, het risico bestaat dat u (onbewust) bijdraagt aan het uitsluiten en discrimineren van mensen."

Wolfsen roept op om "kritisch te kijken naar voorstellen van collega’s" om algoritmen in te zetten, bijvoorbeeld om bepaalde werkprocessen te versnellen. "Zorg dat u kunt verantwoorden dat de automatisch verwerkte gegevens echt rechtmatig en – als onderdeel daarvan - noodzakelijk zijn om uw doel te bereiken."