Denktank Rand waarschuwt voor nieuwe manipulatie in metaverse

Desinformatie op Facebook is al erg, maar volgens Rand Corporation zal het in de metaverse nog veel erger zijn. De Amerikaanse denktank waarschuwt voor subtiele manipulaties door bijvoorbeeld de avatar van een politicus bij een speech in de metaverse een beetje te laten lijken op elke individuele toeschouwer. Dat geeft mensen dan onbewust meer vertrouwen in de persoon die zij allemaal denken te zien, maar die zij dan dus als 'maatwerk' elk voorgeschoteld krijgen.

Jasper BakkerredacteurMeer van deze auteur

metaverse bedrijven — © Shutterstock

Shutterstock

De virtuele online-werelden waar nu hard aan gewerkt wordt door onder meer Facebook- en Meta-topman Mark Zuckerberg kunnen een gevaarlijke keerzijde hebben. Vertrouwen in de 'afzender' van informatie valt flink te verhogen door aan visuele mimicry te doen, schrijft senior informatiewetenschapper Rand Waltzman van de Rand Corporation. Dit vermengen van gelaatseigenschappen gebeurt dan zonder dat toeschouwers doorhebben dat het beeld wordt gemanipuleerd.

Effectiviteit al bewezen

"Dit is geen speculatie. Het is al lang bekend dat mimicry kan worden misbruikt als een krachtig hulpmiddel voor invloed", legt Waltzman uit. "Een reeks van experimenten (PDF) door Stanford-onderzoekers heeft aangetoond dat het licht veranderen van de gezichtskenmerken van een onbekend politiek figuur om elke kiezer weer te geven ervoor zorgt dat mensen politici gunstiger waarderen."

In de Stanford-experimenten waar hij naar verwijst, zijn uitgevoerd met een mock-up van een verkiezingscampagne waarbij foto's van de kandidaten zijn aangepast om enigszins te lijken op de individuele participanten van het experiment. Daarbij is gebleken dat de deelnemers niet doorhadden dat het gezicht van de kandidaat was gewijzigd om meer op hun te lijken. Dit niet doorhebben van de beeldmanipulatie, was zelfs het geval wanneer 40% van het gezicht van de deelnemers was vermengd met het gezicht van de politieke kandidaat. "In de metaverse is dit soort mimicry makkelijk voor te stellen op een enorme schaal."

Onvoorstelbare mogelijkheden

Naast gelaatskenmerken spelen ook gezichtsuitdrukkingen, gebaren, lichaamstaal en meer elementen een rol. Waltzman doet al bijna veertig jaar onderzoek naar de problematiek van misleiding, desinformatie en kunstmatige intelligentie. Hij stelt dat VR-omgevingen psychologische en emotionele manipulatie van gebruikers mogelijk zullen maken op een niveau dat in hedendaagse media onvoorstelbaar is. Verdediging daartegen staat nog in de kinderschoenen, waarschuwt de wetenschapper.

Echt Nep, op AG TechFest

Over nep en echt, spelen met de realiteit, en de wereld beleven van achter ons scherm, daarover spreekt trendwatcher Sander Duivestein op AG TechFest (29 september in de Werkspoorkathedraal te Utrecht). De mede-auteur van het boek 'Echt Nep' dat vorig jaar is verschenen, legt in zijn gelijknamige presentatie uit wat de nieuwe spelregels zijn van het metaverse, wat we kunnen leren van Generatie Z en Alpha die zich van kinds af aan in deze wereld rondwentelen, en wat hiervan de impact is op onze economie en maatschappij.