Google zet mens en AI in tegen content

De door Google ooit overgenomen videosite gebruikt al machine learning om extremistische video’s te detecteren. Sinds juni dit jaar zijn er al meer dan 150.000 van zulke haatzaaiende video’s opgespoord en verwijderd. Dat is echter niet toereikend. Dus wordt er nu meer menskracht ingezet, meldt de BBC.

Voordelen en misbruik

YouTube-CEO Susan Wojcicki schrijft in een ingezonden artikel in The Telegraph dat haar bedrijf menselijke inschatting combineert met krachtige machine learning. Zij prijst de educatieve, creatieve en democratiserende toepassingen van YouTube aan, maar betreurt ook misstanden. “Ik heb gezien hoe sommige kwaadwillenden onze openheid misbruiken om te misleiden, manipuleren, intimideren of zelfs kwaad doen.

In haar aankondiging om dit aan te pakken, zet Wojcicki uiteen dat menskracht helpt om de AI te trainen. Sinds juni hebben Google-mensen bijna twee miljoen video’s gekeurd op gewelddadige, extremistische content. Dit helpt om machine learning beter af te stellen. De combinatie moet werknemers in staat stellen om bijna vijf keer zoveel video’s te verwijderen als voorheen, aldus de topvrouw.

Google, YouTube, Facebook onder vuur

Ook reacties (comments) op YouTube worden nu kritischer bekeken en indien nodig verwijderd. Ook hier zet Google een combinatie van mens en machine in. Volgens Wojcicki worden er honderdduizenden comments en honderden accounts opgespoord en afgesloten.

YouTube, dat formeel onder Google valt, ligt net als dat moederbedrijf en online-gigant Facebook onder vuur vanwege extremistische maar ook heimelijk manipulerende content, inclusief ‘fake news’. Dit raakt onder meer aan de verkiezing van de Amerikaanse president Donald Trump en de Brexit. Google en Facebook hebben al beloofd meer aan filtering te zullen doen.