Hoe je AI 'uitlegbaar by design' maakt
Het uitlegbaar maken van AI-toepassingen vereist dat die toepassingen daarop ingericht worden. Dat betekent dat in alle fasen van de ontwikkeling van een AI-toepassing maatregelen genomen moeten worden om uiteindelijk stakeholders van zo’n toepassing een passende uitleg te kunnen geven. Oftewel: 'Explainable AI by Design'. Een checklist kan hier volgens Martin van den Berg en Stefan Leijnen een praktisch handvat voor bieden.
© Shutterstock
Shutterstock
Explainable AI (XAI) wordt meer en meer gezien als een belangrijk en zelfs noodzakelijk element van het verantwoord inzetten van Artificial Intelligence (AI). De komst van de EU AI-verordening [1], die transparantie vereist voor zowel laag-risico als hoog-risico AI-toepassingen, draagt daar ongetwijfeld aan bij. Maar veel organisaties zijn zoekende hoe XAI in de praktijk te implementeren en te gebruiken. Waar XAI de afgelopen jaren vooral werd gezien als een techniek om de black-box AI te openen, is er groeiend bewustzijn dat XAI ook een sociale component heeft, namelijk het adequaat communiceren van de gewenste uitleg naar bijvoorbeeld een klant of professional.