Explainability-by-design: inzicht en controle met betrouwbare AI
- Er zijn honderden explainable AI-methodes waarvan de kwaliteit zeer ver uiteen loopt.
- Evaluatie van XAI-methodes aan de hand van twaalf kwaliteitslabels.
- Explainable-by-design: uitlegbaarheid is in de architectuur van AI-modellen geïntegreerd.
- Lees ook: Explainable AI nu al misbruikt in marketing
Om inzicht te krijgen in de redenering van een AI-model zijn inmiddels honderden explainable AI-methodes ontwikkeld van zeer uiteenlopende kwaliteit. Meike Nauta geeft de voorkeur aan AI-modellen waarbij de uitlegbaarheid rechtstreeks in de architectuur is geïntegreerd: explainable-by-design.
“Computer says no” en we weten niet waarom. Zolang de mens geen inzicht heeft in de redenering van een AI-model, zal de stroom van AI-gerelateerde schandalen niet opdrogen. Berichten over discriminatie en ogenschijnlijk domme fouten verschijnen veelvuldig.