'Bias grote bedreiging voor commercieel succes AI'
Gekleurde data, modellen die discriminatie in de hand werken - kortom bias - bestaan al zo lang als statistieken worden gebruikt in de besluitvorming. Het probleem zit in het feit dat kunstmatige intelligentie - met name machine learning - een black box is waardoor ongewenste resultaten onverwacht tevoorschijn komen en een toets op representativiteit van de data ontbreekt.
© CC0 - Pexels.com
CC0 - Pexels.com
De bias-problematiek is een topprioriteit bij de grote leveranciers maar ook bij afnemers van technologie zoals gemeenten en koepelorganisaties als de Gezondheidsraad en het Verbond van Verzekeraars, stelt Reinoud Kaasschieter, AI-expert bij Capgemini. "Iedereen ziet dat er grote voordelen zijn te behalen met de inzet van kunstmatige intelligentie. Maar elke misser komt breed in de publiciteit en vormt de publieke opinie. Deze organisaties vrezen voor een nieuwe AI-winter."