Vertrouwen in AI vraagt om doordacht beleid

Om het ‘black box’ probleem te overwinnen moeten organisaties begrijpen dat ethische, betrouwbare AI begint met het definiëren van een beleid. Organisaties zullen daarom een beleid met controles moeten invoeren, zodat ze betrouwbare AI in hun bedrijfsactiviteiten kunnen integreren. Hierbij is het belangrijk om duidelijk te definiëren wat betrouwbare AI werkelijk betekent in hun sector en hoe die betrouwbaarheid zal worden gecontroleerd.

Op dezelfde manier moeten organisaties duidelijk zijn over waar ze vandaag de dag als bedrijfsentiteit voor staan en welk beleid daarop is afgestemd. Met deze leidraad in het achterhoofd kunnen financiële instellingen vervolgens gaan kijken naar specifieke use-cases waarbij AI-modellen worden ingezet. Ga bijvoorbeeld na hoe een AI-model in verschillende kredietrisicoscenario's zou kunnen reageren. Welke parameters bepalend zijn voor de besluitvorming en of er een oneerlijk verband is tussen risico en demografische gegevens. Al deze elementen zijn belangrijk om over na te denken en moeten in gedachten worden gehouden gedurende de hele levenscyclus van het werken met AI.

Lastig van aanpak veranderen

Of je nu een traditionele financiële instelling bent die al jaren bestaat of een startende fintech, je moet evenveel belang hechten aan betrouwbare AI. Met meer vertrouwen in hun eigen AI kunnen financiële instellingen minder tijd besteden aan moeizame taken om hun betrouwbaarheid te waarborgen. Op deze manier kunnen ze hun aandacht richten op waardevoller werk. Het verschil is dat financiële instellingen die al wat langer bestaan vaak beschikken over een bewezen risicobeheermodel. Echter beschikken ze ook over de nodige technieken en processen, waardoor het lastiger is om van aanpak te veranderen. Startende bedrijven hoeven daarentegen geen rekening te houden met bestaande investeringen in deze technologie, waardoor ze meer vrijheid hebben om best-of-breed development platforms te kiezen met ingebouwde mogelijkheden en deze in te bedden in een ethisch kader.

Nu de wereld dit jaar weer enigszins normaal wordt, zullen organisaties waakzamer dan ooit moeten zijn. Op deze manier zorgen ze ervoor dat hun technologie ethisch verantwoord werkt en niet bijdraagt aan systematische vooroordelen. Toekomstige regelgevingen van overheden over de hele wereld zullen zich blijven bezighouden met de vraag hoe organisaties, met name in de financiële sector, verantwoord om kunnen gaan met deze technologie. Uiteindelijk is er geen snelle en gemakkelijke weg naar een wijdverspreid vertrouwen in AI-besluitvorming, maar gaat het om het nemen van doordachte stappen, het elimineren van vooringenomen besluiten en het verbeteren van de uitlegbaarheid.