Nieuwe regels voor data-analyses overheid begin 2021 bekend

Ollongren werd door GroenLinks, D66, PvdA, PvdD en Denk verzocht om te onderzoeken hoe het gebruik van risicoprofielen bij de overheid en in de private sector bijdraagt aan etnisch profileren. Een gezamenlijke motie werd aangenomen. De regering moet bovendien voorstellen gaan doen om etnisch profileren door de overheid aan te pakken.

In de brief aan de Tweede Kamer bevestigt Ollongren dat algoritmen die risicoprofielen opstellen momenteel onderzocht worden. Er worden beleidsmaatregelen getroffen om de risico’s van deze profileringstechnieken weg te nemen, zo schrijft Ollongren.

Richtlijnen voor data-analyses

Ollongren licht een aantal onderzoeken en beleidstrajecten uit die gaan over algoritmen die in gebruik zijn bij de overheid. Ze geeft daarin onder meer aan dat het ministerie van JenV momenteel richtlijnen ontwikkelt voor het uitvoeren van data-analyses door de overheid. Deze bevatten ook regels om de risico’s van discriminatie te beperken. Ook zijn ze relevant voor geautomatiseerde gegevensanalyses, door bijvoorbeeld bij de Belastingdienst en de politie worden uitgevoerd.

AIsysteemprincipes

“Bij de doorontwikkeling van deze richtlijnen wordt rekening gehouden met zowel de impact van data-analyse op de burger , als met de rol die een algoritme speelt in de totstandkoming van een menselijk besluit.” Ollongren schrijft dat zogeheten ‘AIsysteemprincipes’ een aanvulling vormen op de richtlijnen. Dit zijn een aantal algemene ethische principes bij het gebruik van kunstmatige intelligentie en algoritmes. De richlijnen zijn naar verwachting begin 2021 gereed. Daarna wordt bekeken in hoeverre ze moeten worden ingezet in wetten.