Deepfake-foto's vallen door de mand dankzij astronomie

Het creëren van deepfakefoto's is tegenwoordig kinderlijk eenvoudig en de resultaten zijn in toenemende mate moeilijk van echt te onderscheiden. Dit geeft volledig nieuwe impulsen aan desinformatiecampagnes en onzekerheid over de betrouwbaarheid van media. Britse onderzoekers hebben nu een nieuw detectiemiddel ontwikkeld om neppe foto's van mensen (en in theorie ook dieren) te kunnen ontdekken.

Diep in de ogen kijken

Het draait om analyse van lichtreflecties in de ogen van geportretteerde - of dus kunstmatige aangemaakte - mensen. Bij het maken van echte foto's heeft een paar ogen namelijk dezelfde belichting en is er in beide oogballen dus sprake van gelijke lichtreflectie. AI-toepassingen die deepfakefoto's maken, houden daar geen rekening mee en dus kunnen ogen in nepfoto's volledig andere reflecties tonen. Soms zijn fake-ogen ook met het blote oog te ontdekken, maar subtielere namaak vereist betere middelen om te herkennen.

De nieuwe detectiemethode is afgeleid van de astronomie, waarbij weerkaatsingen van licht worden gebruikt om melkwegstelsels beter in kaart te brengen. De toepassing hiervan op AI-gecreëerde foto's van mensen is vorige maand gepresenteerd op de National Astronomy Meeting 2024 van de Royal Astronomical Society. Het onderzoek is gedaan door Adejumoke Owolabi, student aan de University of Hull, onder begeleiding van astrofysicaprofessor dr. Kevin Pimbblet, meldt Ars Technica.

Meer dan 2 benen of 10 vingers

Het herkennen van deepfakefoto's is hiermee echter niet gegarandeerd. Enerzijds kan de Britse 'astronomiemethode' valse positieven en ook valse negatieven geven. Anderzijds kan AI-ontwikkeling deze ontdekking weer meenemen, waardoor lichtreflecties in ogen in de toekomst juist wel consistent kan zijn. Eerder zijn bekende deepfakefouten zoals mensen met meer dan twee benen of meer dan tien vingers ook al weggewerkt door verbeteringen in AI-beeldtoepassingen.