AIVD en RDI waarschuwen voor aanzienlijke uitdagingen met generatieve AI

Hoewel de AIVD en de RDI positieve toepassingen van generatieve AI signaleren, moeten organisaties zich ook voorbereiden op nieuwe soorten risico’s en dreigingen. Om dit inzichtelijk te maken, hebben de diensten het AI Cybersecurity Kwadrant opgesteld, dat de kansen, risico’s en uitdagingen rond generatieve AI in kaart brengt.

Niet alleen statelijke actoren

Volgens de AIVD en de RDI is meer inzicht noodzakelijk omdat door generatieve AI aangedreven dreigingen zich snel kunnen ontwikkelen en ‘slimmer’ worden uitgevoerd. “Traditionele beveiligingssystemen kunnen mogelijk tekortschieten bij deze complexere bedreigingen,” waarschuwen de organisaties. Waar voorheen alleen statelijke actoren over voldoende middelen en capaciteiten beschikten om dergelijke geavanceerde aanvallen uit te voeren, biedt de bredere beschikbaarheid van AI nu ook criminelen deze mogelijkheid.

Generatieve AI kan echter ook een positieve rol spelen bij het verbeteren van de cybersecurity van organisaties, bijvoorbeeld door het helpen detecteren van aanvallen en het analyseren van netwerkverkeer. “Als generatieve AI op een verstandige en veilige manier wordt ingezet, kan het voordelen bieden voor cybersecurityorganisaties”, aldus de AIVD en de RDI. Wel benadrukken zij dat generatieve AI aanvallen op maat kan maken, wat de dreigingen minder voorspelbaar maakt. “Daardoor kunnen bestaande beveiligingsmechanismen, die zijn gebaseerd op bekende patronen, mogelijk tekortschieten.”

Enorme kansen voor cybersecurity

De AIVD en RDI stellen verder dat het onvermijdelijk is dat generatieve AI ook defensief ingezet zal worden, gezien de snelle ontwikkeling van offensieve toepassingen. “Generatieve AI biedt enorme kansen, doordat het organisaties in staat stelt om grote hoeveelheden data te analyseren, voorspellingen te doen en mogelijk zelfs automatisch te reageren op dreigingen.”

Dit artikel is eerder verschenen op iBestuur, zustertitel van AG Connect.