NSA slaat alarm over risico's van AI voor cybersecurity

Kwaadwillenden die gevoelige gegevens of intellectueel eigendom willen stelen, kunnen proberen om de AI-systemen van een organisatie te "coöpteren", aldus het rapport met tips om AI veilig te gebruiken. De NSA raadt daarin organisaties aan om defensieve maatregelen te nemen, zoals het bevorderen van een "beveiligingsbewuste" cultuur om het risico op menselijke fouten te minimaliseren en ervoor te zorgen dat de AI-systemen van de organisatie worden gehard om beveiligingslekken en kwetsbaarheden te voorkomen.

Staatsgelieerde groepen grijpen AI aan

"AI biedt ongekende mogelijkheden, maar kan ook kansen bieden voor kwaadaardige activiteiten," zei NSA Cybersecurity Director Dave Luber in een persbericht. Het rapport komt te midden van groeiende zorgen over potentieel misbruik van AI-technologieën, met name generatieve AI, waaronder het razend populaire ChatGPT-model van het door Microsoft gesteunde OpenAI.

In februari zei OpenAI in een blogpost dat het de accounts van vijf aan de staat gelieerde bedreigingsgroepen had beëindigd die de grote taalmodellen van de startup gebruikten om de basis te leggen voor kwaadaardige hackpogingen. Het bedrijf handelde in samenwerking met bedreigingsonderzoekers van Microsoft.

Verkennen en testen

"Cybercriminele groepen, nationale dreigingsactoren en andere tegenstanders verkennen en testen verschillende AI-technologieën naarmate ze opkomen, in een poging inzicht te krijgen in de potentiële waarde voor hun activiteiten en de beveiligingsmaatregelen die ze mogelijk moeten omzeilen", zegt Microsoft in een apart blogbericht. "Aan de kant van de verdediger is het van vitaal belang om diezelfde beveiligingsmaatregelen te beschermen tegen aanvallen en even geavanceerde monitoring te implementeren die anticipeert op kwaadaardige activiteiten en deze blokkeert."

De dreigingsactiviteit die door OpenAI en Microsoft aan het licht is gebracht, zou wel eens een voorbode kunnen zijn voor aan staten gelinkte en criminele groepen om snel generatieve AI in te zetten om hun aanvalscapaciteiten te versterken, zo vertelden cybersecurity- en AI-analisten aan Cybersecurity Dive.

Continu beveiligingsproces

Kwaadwillende actoren die zich richten op AI-systemen kunnen aanvalsvectoren gebruiken die uniek zijn voor AI, maar ook standaardtechnieken die worden gebruikt tegen traditionele informatietechnologiesystemen, aldus de NSA. "Uiteindelijk houdt het beveiligen van een AI-systeem een continu proces in van het identificeren van risico's, het implementeren van passende maatregelen en het controleren op problemen", aldus het rapport van het agentschap.

De NSA zei dat de tips en adviezen die het geeft weliswaar bedoeld zijn voor nationale veiligheidsdoeleinden, ook van toepassing zijn "op iedereen die AI-mogelijkheden in een beheerde omgeving brengt, met name in omgevingen met een hoog risico en een hoge waarde".

Het rapport voor veiliger AI-gebruik is ontwikkeld in samenwerking met andere overheidsinstanties over de hele wereld, waaronder het Amerikaanse Cybersecurity and Infrastructure Security Agency, het Britse National Cyber Security Centre en het Canadese Centre for Cyber Security.

Bron: Cybersecurity Dive. Dit artikel is door AI vertaald.