Discriminerend algoritme legt organisatie studiefinanciering op de pijnbank

De vermoedelijke vooroordelen in het algoritme werden op 21 juni aan de kaak gesteld door de NOS op basis van een onderzoek van Investico. Daaruit bleek dat studenten met een migratieachtergrond onevenredig vaak worden onderzocht op het plegen van fraude met een beurs voor uitwonende studenten. Uitwonende studenten krijgen maandelijks meer geld dan thuiswonende studenten. Door een adres elders op te geven kunnen thuiswonende studenten soms toch de beurs voor uitwonenden overgemaakt krijgen. DUO is alert op deze vorm van fraude en doet regelmatig onderzoek. Het onderzoek van Investico maakt heel aannemelijk dat het algoritme daarbij op oneerlijke gronden selecties maakt.

Dijkgraaf zegt nu in antwoord op Kamervragen van Renske Leijten en Peter Kwint (beiden SP) erg geschrokken te zijn van de uitkomsten van dit onderzoek. Hij heeft gelijk een extern onderzoek gestart zoals gemeld in een brief aan de Tweede Kamer die nog dezelfde dag werd verstuurd.

Tot op de bodem uitzoeken

DUO heeft al aangegeven dat het algoritme niet expliciet kijkt naar etniciteit en nationaliteit. Toch start het wel een evaluatie van het selectieproces. Dijkgraaf wil echter verder gaan en een onafhankelijk onderzoek laten doen. Hij wijst op de ervaringen met de kinderopvangtoeslagaffaire en vindt dat het kabinet en DUO "aan hun stand verplicht zijn" elk signaal van discriminatie tot op de bodem te onderzoeken. Een van de acties is het openbaar maken van het algoritme in het Algoritmeregister, maar daarvoor moeten volgens de minister "een aantal stappen doorlopen worden".

Op de vraag van Leijten en Kwint wanneer er nu eindelijk eens een alomvattend openbaar algoritmeregister komt, zegt Dijkgraaf dat er in vele organisaties aan wordt gewerkt, dat een aantal organisaties al hun algoritme hebben aangeleverd, maar dat het "tijd en capaciteit vergt om dit zorgvuldig te doen".

Verder wil hij de resultaten van de onderzoeken afwachten om verdere besluiten te nemen.