‘Europese Unie moet leiding nemen in strijd tegen deepfakes’

De onderzoekers melden dat de ontwikkelingen rondom deepfakes ervoor zorgen dat het niveau van wantrouwen ten opzichte van audio- en videomateriaal toeneemt. “Audio-grafisch bewijs zal met meer scepsis worden geconfronteerd en aan hogere eisen moeten voldoen. Individuen en instellingen zullen nieuwe vaardigheden en procedures moeten ontwikkelen om een ​​betrouwbaar beeld van de werkelijkheid op te bouwen, gezien het feit dat ze onvermijdelijk worden geconfronteerd met misleidende informatie”, zo schrijven ze in het rapport.

Voortdurende reflectie nodig

Omdat technologie zich razendsnel ontwikkelt zijn er geen snelle oplossingen mogelijk voor de ontstane risico’s. Om de negatieve gevolgen van deepfakes te voorkomen moet er volgens de onderzoekers “voortdurende reflectie zijn en permanent geleerd worden op alle bestuursniveaus.” De Europese Unie moet bij dit proces een leidende rol kunnen spelen.

Politici in gevaar

De Rathenau-onderzoekers beschrijven in het rapport het effect van deepfakes op politiek en bestuur. Een deepfake-video waarin een Europese ministers van Volksgezondheid bijvoorbeeld zegt dat er opzettelijk vaccinleveringen worden achtergehouden, kan ernstige schade toebrengen aan hun professionele integriteit en reputatie. Bovendien zou het politici zelfs in gevaar kunnen brengen, wanneer ontgoochelde burgers de deepfake voor waar aannemen en boos worden. Ook op organisatorisch niveau heeft het gevolgen: gebruik van misleidende deepfakes kan leiden tot geopolitieke spanningen tussen de Europese Unie en andere staten.

De onderzoekers doen een zestal aanbevelingen aan bestuurders. Zo wordt opgeroepen om regels te stellen voor deepfakes. Bijvoorbeeld deepfakes die een bedrieglijke manipulatie van de werkelijkheid mogelijk maken, of kunnen aanzetten tot geweld tegen mensen of het veroorzaken van gewelddadige sociale onrust. Ook stellen ze dat er wettelijke verplichtingen moeten komen waar aanbieders van deepfake-technologie aan moeten voldoen.

Grenzen stellen aan deepfake-technologie

Een andere aanbeveling is om grenzen te stellen aan de verspreiding van deepfake-detectietechnologie. Detectietechnologie kan cruciaal zijn bij het stoppen van de verspreiding van kwaadaardige deepfakes, maar wanneer aanbieders van deepfake-technologie op de hoogte van de detectietechnologieën, kunnen de deepfake-productietechnologieën aanpassen en detectie omzeilen.

Tot slot stellen onderzoekers dat er geïnvesteerd moet worden in de ontwikkeling van AI-systemen die deepfake-aanvallen voorkomen, vertragen of compliceren. De Europese Commissie zou kunnen overwegen om hier subsidies voor te verlenen. Ook denken de onderzoekers dat bestuurders er goed aan doen om te investeren in onderwijs, om zo het bewustzijn rondom nadelige gevolgen van deepfakes te vergroten onder AI-professionals.

Deepfakes herkennen

Wetenschappers en bedrijven werken al langer aan software die de gemanipuleerde of gegenereerde beelden kan herkennen.  AG Connect legde in 2019 uit hoe je meerdere type deepfakes kunt herkennen.