VN en Europol: AI gevaar voor zelfrijdende auto en drone

Machine learning en AI kunnen de maatschappij enorme voordelen bieden, maar tegelijkertijd vormen ze een reële bedreiging in de vorm van criminaliteit. "Nu AI-toepassingen daadwerkelijk hun weg vinden in de dagelijkse praktijk, is het duidelijk dat dit een fundamentele technologie wordt voor onze toekomst", zegt Irakli Beridze, hoofd van het Centre for AI and Robotics bij het Interregional Crime and Justice Research Institute van de Verenigde Naties, tegen ZDNet.

"Net zoals de voordelen voor de maatschappij heel reëel zijn, geldt dat ook voor de dreiging van kwaadaardig gebruik." Belidze is een van de auteurs van het rapport Malicious Uses and Abuses of Artificial Intelligence (pdf).

Breed bereik aan foute toepassingen

In dat rapport sommen de auteurs een lange reeks aangrijpingspunten op waar kunstmatige intelligentie in de handen van kwaadwillenden een breekijzer kan vormen. Deze punten variëren van het inzetten van AI bij het raden van wachtwoorden en het breken van encryptie tot slimmere manieren om mensen te bewerken met social engineering en zelfs het misleiden van autonome voertuigen.

Zo noemen de auteurs in het rapport de mogelijkheid om de camerasystemen van zelfrijdende auto's voor de gek te houden zelfs een heel laagdrempelige manier. Dit schijnbaar complexe hackwerk valt zeer eenvoudig te doen. Uit een experiment blijkt dat een stukje zwarte tape op een verkeersbord genoeg is om de boordcomputer van een zelfrijdende auto de indruk te geven dat er ter plekke een andere maximumsnelheid geldt. Op die manier kan chaos worden gecreëerd wat criminelen kunnen gebruiken om bijvoorbeeld een overval te maskeren.

Drone-kapingen

De onderzoekers wijzen er ook op dat afleverdrones interessante objecten zijn voor criminelen. Zij kunnen de systemen die zorgen voor een veilige vlucht en correcte aflevering voor de gek te houden, door valse informatie richting de drone te sturen. Zo zijn kapingen uit te voeren voor ladingen zoals medicijnen, waardevolle spullen of apparatuur waar intellectueel eigendom op rust. Deze buit is niet alleen voor klassieke criminelen een gewild doelwit, maar ook voor staatsgestuurde hackers.