Aandeelhouders eisen verkoopstop Amazon-gezichtsherkenning

Vanwege hun grote zorgen over de bewaking van immigranten, kwetsbare gemeenschappen, etnische profileringen en andere civiele en andere burger- en mensenrechtenschendingen door de tool, hebben de aandeelhouders van Amazon de directie van het bedrijf op het hart gedrukt te stoppen met de verkoop van gezichtsherkenningstechnologie aan overheidsinstanties. Ze willen eerst een onafhankelijk onderzoek naar de wijze waarop overheden de gezichtsherkenningstool Rekognition gebruiken, en de garantie dat dit niet leidt tot discriminatie en schendingen van mensenrechten.

'Vooringenomen tool'

AWS Rekognition, de tool in kwestie, wordt verkocht onder de vlag van Amazon Web Services, de cloud-dochter van Amazon. De verenigde aandeelhouders zeggen pas achter de verkoop van Rekognition te staan, als de directie van Amazon kan garanderen dat de technologie geen feitelijk of potentieel risico vormt voor burger- en mensenrechten. De tool kreeg al eerder kritiek van mensenrechtengroeperingen, omdat de tool 'vooringenomen' zou zijn. De tool wordt gebruikt door Amerikaanse politiediensten, immigratiediensten en de douane, wat ook al zorgde voor vragen bij Amazon-werknemers. 

Rekognition kwam eerder in opspraak toen het tijdens een test van een Amerikaanse mensenrechtenorganisatie per abuis de 'mugshots' van veroordeelde criminelen matchte met 28 leden van het Amerikaanse Congres. Ook toen gingen geluiden op over de vooringenomenheid, en de kansen dat mensen van een bepaalde huidskleur door de tool konden worden gediscrimineerd. 

Open MIC

Motor achter de verenigde aandeelhouders, die samen goed zouden zijn voor zo’n 1,32 miljard aan Amazon-aandelen, is de non-profitorganisatie OpenMIC. Deze organisatie strijdt voor gelijkheid in de IT-wereld, en maakt zich bijvoorbeeld hard voor een open en betaalbaar internet voor iedereen, de bescherming van de privacy en de verbetering van het toezicht van bedrijven op online privacystandaarden. Eerder al mengde de organisatie zich in de discussie tussen Google en zijn werknemers rondom de voorgenomen lancering van een Chinese zoekmachine.

De groep aandeelhouders komt daarom met een statement waarin zij onder andere zeggen "weinig bewijs te zien dat Amazon het gebruik van Rekognition effectief beperkt om privacy en burgerrechten te beschermen." Ook verwijzen ze pijnlijk naar de actieve uitingen van zorg om mensenrechten die worden gedaan door concurrent Microsoft. Dat riep eind 2018 nog op tot overheidstoezicht op het gebruik van gezichtsherkenning, om zo nadelige gevolgen voor mensenrechten en privacy te kunnen inperken.

AWS Rekognition

Terwijl de groep kritische Amazon-aandeelhouders dus zijn zorgen uit over de gezichtsherkenningstool, is AWS Rekognition volgens AWS tegelijkertijd van grote waarde voor inlichtingendiensten. De tool is in staat om videobeelden te analyseren en te verwerken en kan hiermee objecten, mensen, teksten en bepaalde activiteiten en scènes in het beeldmateriaal herkennen.

Zo kan de techniek op allerlei manieren worden gebruikt in het herkennen of volgen van bepaalde content, maar in het geval van de FBI helpt de tool de inlichtingendiensten voornamelijk in het onderzoek naar criminaliteit en terrorisme, zoals seksueel misbruik, mensenhandel en terroristische daden.