YouTube bindt de strijd aan met AI-gegenereerde beelden

In een blogpost die gisterenavond werd gepubliceerd leggen Jennifer Flannery O'Connor en Emily Moxley, beide vp product management bij het het bedrijf,  uit hoe YouTube wil komen tot een "verantwoord gebruik van AI."

Wie een video wil plaatsen op het platform krijgt de vraag of het materiaal realistisch is aangepast of synthetisch is. De auteurs geven in de blog als voorbeeld het plaatsen van beelden van evenementen die nooit hebben plaatsgevonden of van een persoon die iets beweert wat diegene in werkelijkheid nooit heeft gezegd of gedaan.

Labels voor gemanipuleerd materiaal

Bij beelden waarin gemanipuleerd materiaal is te zien, komt een label in de beschrijving bij de video. Bij onderwerpen die als 'gevoelig' worden bestempeld, komt er in de video een prominente waarschuwing dat er bewerkt beeldmateriaal is te zien. 

Wie als uploader zich niet aan de regels houdt, riskeert dat materiaal van YouTube wordt verwijderd en de deelname aan het YouTube Partner Programma wordt opgeschort. Het bedrijf denkt nog na over verdergaande bestraffingen.

Verwijdering is een eerste stap

YouTube heeft al langer regels van kracht in de vorm van Community Guidelines, waarin het bedrijf de strijd aanbindt met ongewenst beeldmateriaal. O'Connor en Moxley benadrukken dat bijvoorbeeld ook synthetisch materiaal dat realistisch geweld toont, wordt verwijderd als het doel is kijkers te shockeren. Het bedrijf gaat naast menselijke beoordelaars, meer kunstmatige intelligentie inzetten om overtredingen op te sporen.

YouTube werkt ook aan mogelijkheden voor mensen om een verwijderverzoek in te dienen wanneer zij ontdekken dat bijvoorbeeld hun gezicht of stem herkenbaar in beeld wordt gebracht in kunstmatig gegenereerd videomateriaal. Bij de beoordeling van die verwijderverzoeken worden verschillende aspecten geëvalueerd, bijvoorbeeld of het gaat om een bekend persoon en of er sprake is van satire of parodie. 

O'Connor en Moxley erkennen dat er ongetwijfeld mensen zijn die gaan proberen de regels te omzeilen. Daarom moedigen zij kijkers op het platform aan feedback te geven op maatregelen om ze, waar nodig, aan te scherpen en aan te vullen.