AI ernstig in de fout bij Britse politie

Het systeem werd ingezet in juni vorig jaar bij de Champions League finale voetbal in Cardiff. De politie wil een betere manier om aan de poorten de mensenmassa te screenen op de aanwezigheid van verdachte personen. Het systeem sloeg 2470 keer alarm, waarbij het in 2297 gevallen ging om volmaakt onschuldige voetbalsupporters, meldt Ars Technica.

De Britse politie maakt steeds vaker gebruik van gezichtsherkenning, bijvoorbeeld bij het screenen van de grote hoeveelheid beelden die beveiligingscamera's in de straat maken. De South-Wales Police zegt in een verklaring zich zeer bewust te zijn van zorgen over privacy. "Vanzelfsprekend is geen enkel gezichtsherkenningssysteem 100 procent accuraat onder alle omstandigheden. Technische problemen zijn normaal bij al dit soort systemen. Dat betekent dat er voorlopig problemen met vals positieven blijven voorkomen."

'Privacy niet in gevaar'

De politie zegt echter er alles aan te doen om tegemoet te komen aan zorgen over privacy. "We hebben ingebouwde controles in de methodologie om er zeker van te zijn dat onze aanpak terecht is en evenwichtig." SWP constateert dat de aanpak succes heeft. In de laatste 9 maanden zijn er met succes meer dan 450 mensen aangehouden op basis van de camerabeeldanalyse. "Sinds we de gezichtsherkenning hebben ingezet, is er nog niemand gearresteerd die uiteindelijk een vals positieve bleek te zijn en er heeft nog niemand uit het publiek geklaagd."

Privacy-actiegroep Big Brother Watch heeft echter wel aangegeven dat de werkwijze van de politie niet door de beugel kan. De groep ziet de gezichtsherkenning een 'bedreiging van de burgerlijke vrijheid'. De groep dreigt met meer onthullingen te komen.