Facebook gaat de strijd aan met deepfake-video’s

Deepfakes zijn onder meer video’s die met hulp van ‘deep learning-techniek’ zo zijn bewerkt dat het net lijkt alsof de personen in een video door de maker bedachte dingen zeggen of doen. Soms past het gezicht van een persoon naadloos op een ander lichaam. Deepfake-video’s zijn amper van echt te onderscheiden. Ze zijn momenteel nog vrij zeldzaam.

Facebook wil achterhalen wie deepfake-video’s op sociale media plaatst. Het bedrijf verricht onderzoek naar content die met kunstmatige intelligentie is gemaakt, maar er wordt ook gekeken naar het gedrag van aangetroffen nep-accounts. De Amerikanen werken hierbij samen met wetenschap, overheid en andere bedrijven. Wereldwijd wordt er samengewerkt met meer dan vijftig experts om de wetenschap over gemanipuleerde media te vergroten. Zij hebben onder meer expertise op juridisch, wetenschappelijk en technisch vlak. 

Satirische doeleinden 

Een resultaat van de samenwerking is dat Facebook deepfake-video’s gaat verwijderen. Het gaat om video's met beelden die bewerkt zijn en niet afkomstig zijn van de persoon die in de video verschijnt. Ook wordenn video's die voortkomen uit kunstmatige intelligentie of machine learning onder de loep genomen. Er wordt door Facebook een uitzondering gemaakt voor parodieën of satire. Het lijkt daarom aannemelijk dat iedere video die wordt verwijderd eerst bekeken wordt door een zogeheten 'factchecker' van Facebook.  

Het bedrijf licht niet toe hoe satire kan worden herkend. "In overeenstemming met ons bestaande beleid, zullen audio, foto's of video's, of het nu een deepfake is of niet, van Facebook worden verwijderd als ze in strijd zijn met onze andere Community-normen, waaronder normen voor naaktheid, grafisch geweld, onderdrukking van kiezers en haatzaaien", schrijft Facebook over het beoordelen van de video's.

Deepfakes herkennen

Professor Theo Gevers van de Universiteit van Amsterdam leidt de ontwikkeling van een AI die gegenereerde en gemanipuleerde beelden kan herkennen. Hij legde aan AG Connect in november 2019 uit hoe AI-ontwikkeling werkt en hoe deepfakes kunnen worden herkend.