De uitdagingen van de AI-transformatie
De meeste organisaties gebruiken AI al of overwegen het zeer serieus. De voordelen kunnen zeer aantrekkelijk zijn, maar er zijn ook volop uitdagingen, zien Hajar Siamar en Klaas Brongers. Zeker als het gaat om modelbias. Hoe ga je daar dan mee om en wat kun je verwachten van toezichthouders?
Veel organisaties omarmen AI en bevinden zich in een transformatiefase waarin deze technologie wordt toegepast. De toepassing van AI brengt behalve kansen ook uitdagingen met zich mee. Het gaat dan om de vaardigheden van medewerkers, ethische overwegingen en privacy in relatie tot de risico’s van een zogenoemde modelbias. Modelbias omvat systematische fouten die een model kan maken als gevolg van vooroordelen in de trainingsdata of de manier waarop het model is ontworpen. Dit artikel identificeert een aantal voorbeelden van modelbias, strategieën om hier mee om te gaan en de rol die toezichthouders hier kunnen innemen. We sluiten af met onze eigen ervaringen met het gebruik van AI bij het schrijven van dit artikel.