AI dwingt CISO tot nieuw risicomanagement, zegt Gartner

Horvarth wijst op nieuwe risico-typen. Eén is verbonden aan het gebruik van datasets die gevoelige informatie bevatten voor het trainen van AI-modellen. En een tweede risico heeft te maken heeft met de betrouwbaarheid van de resultaten van AI en de kwaliteit van de datasets die kunnen variëren over de tijd. Die schommelingen kunnen verstorende effecten hebben voor de bedrijfsvoering. 

De Gartner-analist zegt dat TRiSM organisaties in staat stelt beter te begrijpen wat AI modellen doen en hoe de inzet zich verhoudt tot de intenties waarmee aan de inzet ervan is begonnen en wat de toegevoegde waarde uiteindelijk is.

Organisatiebrede bewustwording

Een goede implementatie ervan vereist wel dat deze onderdeel wordt van de hele organisatie. TRiSM kan niet worden geleid door een enkele afdeling. Het vergt opleiding en de samenwerking van teams. 

Er moet een inventarisatie komen van het gebruik van AI in de organisatie en van het niveau van transparantie dat nodig is. Verder moet in de organisatie bewustwording worden gekweekt met behulp van trainingen. Bij het toepassen van het model moet risk management onderdeel worden van de dagelijkse operaties. Databescherming en privacyprogramma's moeten voorkomen dat gegevens intern en extern onbedoeld worden gedeeld. En de CISO moet zorgdragen voor AI-specifieke beveiligingsmaatregelen die moeten voorkomen dat kwaadwillenden grip kunnen krijgen op de modellen.