De Validatiecrisis: Hoe managers de balans moeten vinden tussen technologie en controle
In een wereld waarin technologie steeds meer onze beslissingen bepaalt, is de roep om kritische reflectie groter dan ooit. Volgens Brenno de Winter leidt een blind vertrouwen in technologie tot fouten met verstrekkende gevolgen, zo schrijft hij in zijn boek De Validatiecrisis. ICT-managers hebben de sleutel in handen om technologie effectief en veilig te benutten, maar dit lukt alleen als zij begrijpen hoe data, systemen en processen elkaar beïnvloeden.
Een centraal thema in De Validatiecrisis is het belang van data. Een mooi voorbeeld is een experiment met kunstmatige intelligentie (AI), waarbij een AI-systeem wordt gevoed met data van eerdere wervingsbeslissingen, wat vooroordelen kan versterken. In dit geval was het model getraind op een dataset waarin mannen vaker werden aangenomen dan vrouwen. Toen de AI in de praktijk werd ingezet, reproduceerde het deze bias zonder dat de gebruikers hiervan op de hoogte waren. Met als gevolg dat mannen sneller werden aangenomen dan vrouwen.