Ook AI-onderzoekers eisen verkoopstop AWS-tool Rekognition

De tool wordt inmiddels onder andere gebruikt door de politie in Florida en Washington, en is naar verluidt ook aangeboden bij de veiligheidsdienst Department of Homeland Security. Volgens de ‘verontruste onderzoekers’ is er echter geen wetgeving of waarborging die er op toeziet dat de tool op een manier wordt gebruikt die de burgerlijke vrijheden niet schendt, en moet dit gebruik door overheden zo snel mogelijk aan banden worden gelegd.

Prominenten ondertekenen

Inmiddels is de brief al ondertekend door meer dan zestig onderzoekers en academici, waaronder een aantal prominenten. Zo ondertekenden de recente Turing Award-winnaar Yoshua Bengio, Caltech-professor en voormalig Amazone hoofdwetenschapper Anima Anandkumar, en onderzoekers op het gebied van computer vision en machine learning bij Google AI, Microsoft Research, en Facebook AI Research de kritische brief.

Aandeelhouders roeren zich

Er is sowieso veel te doen rondom de ontwikkelingen van gezichtsherkenningssoftware de laatste tijd. Zo riepen de eigen aandeelhouders van AWS eerder dit jaar ook al op tot een verkoopstop van AWS Rekognition, de gezichtsherkenningstool van het bedrijf. De aandeelhouders van de cloudgigant wilden eerst duidelijkheid over het al dan niet schenden van mensenrechten wanneer de tool door overheden wordt gebruikt. Zij wilden de verkoop van de tool pas goedkeuren, als de directie van Amazon kan garanderen dat de tool “geen feitelijk of potentieel risico vormt voor mensen- en burgerrechten”.

Bezwaar verworpen

Ook de Amerikaanse beurswaakhond heeft zich inmiddels in het conflict gemengd, sinds de aandeelhouders van AWS zich roerden. Zo verwierp de waakhond afgelopen woensdag een bezwaar van AWS tegen een stemming onder AWS-aandeelhouders over de verkoopstop. De aandeelhouders stelden bijvoorbeeld voor de verkoop van de tool aan overheden te stoppen, tot een onafhankelijke derde partij kan bevestigen dat de tool geen gevaar vormt voor de mensen- en burgerrechten. Veel hoeft AWS niet te vrezen voor een dergelijke stemming, volgens CNN Business is de uitkomst van de stemming vooral symbolisch en niet bindend.

'Regulering noodzakelijk' 

Met de enorme ontwikkelingen rondom AI en machine learning, spreken steeds meer grote spelers op deze markt zich uit voor regulering rondom de ontwikkelingen van AI-toepassingen zoals gezichtsherkenningstechnologie. Zo riep Thales-ceo Patrice Caine op tot meer toezicht op de ontwikkeling van de AI-toepassingen, maar noemde hij een ban op de techniek 'onzin'. Ook sprak Microsoft-president Brad Smith, zijn zorgen uit over de gevolgen van de gezichtsherkenningstechnologie voor de samenleving en privacy van burgers.