Nieuwe AI legt je woorden in de mond

Het neurale netwerk dat de onderzoekers hebben ontwikkeld kan audiobestanden converteren in realistische mondbewegingen in een bestaande video: je kunt iemand iets laten zeggen wat hij helemaal niet op dat moment heeft gezegd.

Dat werkt als volgt: 

De onderzoekers namen Obama als proefpersoon voor hun algoritme. Van de voormalig president was er namelijk voldoende audiovisueel materiaal beschikbaar. Om Obama's spraak en mondbewegingen te herkennen had het algoritme zeventien uur aan audiovisueel materiaal als data nodig. Na die 'training' was het algoritme in staat om de spraak van de president te manipuleren.

Onderstaande video laat precies zien hoe dat eruit ziet – en hoe écht het overkomt. Aan de linkerkant is de originele video te zijn, aan de rechterkant de video die het algoritme heeft gemaakt.

In de toekomst hopen de onderzoekers de techniek in te zetten voor Skype. 'Het beeld op Skype is vaak slecht maar de audio goed', zegt een onderzoeker van de Universiteit van Washington in een persbericht. 'Je kunt de audio gebruiken om video van hogere kwaliteit te produceren.' In de toekomst kan het algoritme met behulp van audiomateriaal in een uur worden getraind, schrijft The Verge.

Ethisch verantwoord?

Het nieuwe algoritme brengt wel een ethische kwestie met zich mee. Mensen woorden in de mond leggen kan zeker in het huidige tijdperk van ‘fake news’ heel gevaarlijk zijn. ‘Maar je kunt niet ieders stem nemen en er een video van Obama van maken’, zeggen de onderzoekers in een verklaring. We hebben er expres voor gekozen om geen woorden van andere mensen in Obama’s mond te leggen.’

De manipulerende technieken stapelen zich wel op: eerder kwam start-up Lyrebird al met een set algoritmen die met behulp van een minuut stemgeluid sample audio van iemands stem kunnen creëren, schrijft The Verge. Tweetbot SmileVector photoshopt grijnzen in foto's van beroemdheden en Adobe werkt aan een soort Photoshop voor geluid. Zo wordt het steeds moeilijker om onze eigen waarneming te vertrouwen.