Rel rond gezichtsherkenning: gaat IBM in de fout of niet?
- IBM is tegen levering van gezichtsherkenning die etnisch profileren faciliteert
- Het bedrijf levert nu zelf de Britse overheid een platform met gezichtsherkenning
- Mensenrechtenorganisaties wijzen IBM op schending van de eigen principes van het bedrijf
- Lees ook: Superscience: Bias in gezichtsherkenning is verleden tijd
Shutterstock, Fractal Pictures
IBM levert de Britse opsporingsdienst voor 54,7 miljoen pond (63,9 miljoen euro) een systeem met gezichtsherkenning, terwijl het bedrijf in 2020 na de dood van George Floyd geen 'general purpose' gezichtsherkenning zou aanbieden. Een rel hierover draait nu om de woorden 'general purpose'.
De dood van George Floyd door disproportioneel politiegeweld veroorzaakte een golf van protesten in Amerika, waarbij de politie op grote schaal gezichtsherkenningssoftware inzet voor het identificeren van mensen die daarbij overtredingen begingen. Een aantal techbedrijven schortte daarop de levering van gezichtsherkenningssoftware op, omdat het gebruik op deze manier racisme in de hand werkt, de privacy schaadt en mensen belemmert in hun recht op vrije meningsuiting.
Uitgesproken mening van IBM
IBM was daarin het meest uitgesproken, met een brief van CEO Arvind Krishna aan het Amerikaans Congres. Daarin stond dat "IBM zich krachtig verzet en niet zal vergoeilijken dat welke technologie dan ook, inclusief gezichtsherkenning geleverd door derden, gebruikt worden voor massasurveillance, raciaal profileren, schending van basale mensenrechten en vrijheden of welk doel dan ook dat niet in lijn is met onze waarden en 'Priciples of Trust and Transparancy'."
Later onderstreepte het bedrijf dit standpunt nog eens met een oproep aan de Amerikaanse overheid de export aan banden te leggen, vanwege zorgen dat gezichtsherkenning in het buitenland gebruikt kan worden om protesten de kop in te drukken, inbreuk te maken op de rechten van minderheden of een einde te maken aan basale verwachtingen rond privacy.
The Verge heeft nu samen met de Britse organisatie voor onderzoeksjournalistiek Liberty Investigates ontdekt dat IBM recent een contract heeft gesloten met de Britse overheid om een biometrisch platform te ontwikkelen met gezichtsherkenning voor gebruik door de immigratie en wetshandhaving.
Toch levering van gezichtsherkenning
Het systeem zal gefaseerd worden opgeleverd, waarbij de eerste versies vooral zijn gericht op het herkennen van vingerafdrukken. Maar als het totale systeem wordt opgeleverd, is het in staat gezichtsherkenning te leveren bij wetshandhaving. Daarbij worden foto's van individuen vergeleken met foto's in een database.
De omschrijving die daarbij hoort is een 'one to many'-vergelijking. In september 2020 had IBM dergelijke 'one tot many-vergelijkingen juist aangehaald als een systeem van gezichtsherkenning dat gebruikt kan worden voor massasurveillance, etnisch profileren en andere schendingen van mensenrechten.
IBM ontkent probleem
Bij navraag door The Verge, ontkent een woordvoerder van IBM dat het contract met de Britse overheid in strijd is met de eigen principes die in 2020 werden uitgesproken. Het betreffende systeem zal niet geschikt zijn voor massasurveillance of etnisch profileren, stelt hij. Zo kan het geen videofragmenten gebruiken als input voor het herkennen van individuen in een menigte.
'One to many' altijd strijdig met mensenrechten
Een woordvoerder van Black Lives Matters in het VK is het daar niet mee eens. Hij stelt dat IBM makkelijk over zijn principes heenstapt om een lucratief contract binnen te slepen. "Dit zal niet worden vergeten", voegt hij eraan toe. Ook een woordvoerder van Amnesty International heeft geen goed woord over voor de handelswijze van IBM. 'One to many'-gezichtsherkenning is altijd in strijd met mensenrechten, stelt hij. The Verge schrijft dat het Britse ministerie van Binnenlandse Zaken niet wilde reageren op vragen.
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee