Omstreden AI-bedrijf ontkent hack, erkent datalek

Clearview AI, een Amerikaans bedrijf dat AI inzet voor grootschalige gezichtsherkenning, bevestigt de hele klantenlijst is gestolen door een hacker. Maar de eigen IT-systemen zouden niet zijn gecompromitteerd, hoewel er wel een kwetsbaarheid is gepatcht. Clearview AI is omstreden omdat zijn database met gezichten bestaat uit beelden die het gescraped heeft van social media, en omdat het Amerikaanse wetshandhavers als klant heeft.

Rian van HeurMeer van deze auteur

Gezichtsherkenning — © CCO / Pixabay

CCO / Pixabay

In de verklaring aan klanten, waarover The Daily Beast schrijft, zegt het bedrijf dat een indringer ‘ongeautoriseerde toegang’ heeft gekregen tot zijn klantenlijst. Daarbij kon die buitenstaander zien hoeveel gebruikersaccounts een klant heeft en hoeveel zoekopdrachten elke klant heeft uitgevoerd. Volgens diezelfde persverklaring zegt het datalekkende AI-bedrijf ook dat zijn servers en netwerk níet zijn aangetast.

Clearview AI stelt daarbij wel 'het beveiligingslek' te hebben opgelost, zonder daarbij details te geven wat voor kwetsbaarheid in wat voor systeem dit dan betreft. Verder heeft de indringer geen zoekgeschiedenis ingezien van politiediensten en justitie, aldus Clearview AI. Het lijkt er dus op dat de indringer geen toegang heeft gehad tot de gezichtsdatabase met 3 miljard beelden.

Verder schrijft Clearview AI aan The Daily Beast dat beveiliging topprioriteit is voor het bedrijf. Het herhaalt in deze verklaring dat er geen toegang tot de servers is geweest. “We hebben de kwetsbaarheid gedicht, en blijven werken om onze beveiliging te verbeteren.”

Clearview AI is omstreden omdat de database die het gebruikt met drie miljard beelden is opgebouwd met foto’s die zijn vergaard van het internet. Het bedrijf heeft bijvoorbeeld Facebook, YouTube en de digitale portemonnee Venmo gescraped. The New York Times schreef eerder al over deze praktijken. De bedrijven waarvan de beelden worden gebruikt, hebben Clearview AI gevraagd te stoppen met het scrapen omdat dit tegen hun voorwaarden ingaat.

Kritiek en regelulering

Er is veel kritiek op het gebruik van gezichtsherkenning, ook in Nederland. De Tweede Kamer nam onlangs een motie aan die het kabinet verzoekt duidelijker regelgeving te maken rondom gezichtsherkenningssoftware. De Europese Commissie wil een "breed debat" over de wenselijkheid van de toepassing van gezichtsherkenning. De zorgen leven niet alleen bij consumenten en overheden. Ook de techindustrie zelf roept op tot regulering.

Zo vindt Amazon dat nationale overheden moeten opschieten met het maken en invoeren van wetten voor het gebruik van gezichtsherkenning. Microsoft zou, naar eigen zeggen, de techniek geweigerd hebben te installeren bij een Californische politiedienst. Eind vorig jaar sprak Microsoft-president Brad Smith zijn zorgen uit rondom de ontwikkeling van gezichtsherkenningstechnologie en de gevolgen voor de samenleving en privacy van burgers. Thales-ceo Patrice Caine wil toezicht op de ontwikkeling van de AI-toepassingen, maar noemt een ban op de techniek 'onzin'.