AI-camera's krijgen een nee van EU-privacytoezichthouders

Inzet van de oproep voor een ban is de mogelijkheid tot oneerlijke discriminatie. De twee Europese privacy-organisaties hebben een gezamenlijke verklaring opgesteld over het voorstel van de Europese Commissie (EC) voor regulering van kunstmatige intelligentie (AI). Terwijl de EDPB en EDPS het doel van geharmoniseerde regelgeving verwelkomen, zijn ze bezorgd over details zoals de uitzondering in de beoogde AI-regels voor internationale wetshandhavers.

Het uitsluiten van politie- en Justitie-medewerkers die in internationaal verband samenwerken, zou het aan banden leggen van gezichtsherkenning in de publieke ruimte aantasten. Dit terwijl elke verwerking van persoonlijke data, inclusief scannen en herkennen van gelaatskenmerken, valt onder huidige databeschermingsregels en -wetten, benadrukken de EDPB en de EDPS. Dit omvat naast de GDPR (AVG in het Nederlands) ook de EUDPR (European Union Data Protection Regulation) en de LED (Law Enforcement Directive).

Méér dan gezicht

Automatische biometrische identificatie op afstand van individuen in openbaar toegankelijke ruimtes heeft extreem grote risico's, stellen de twee Europese privacywaakhonden. Gezien die extreem grote risico's roepen de EDPB en de EDPS op tot een algemeen verbod op elk soort gebruik van AI voor geautomatiseerde herkenning van menselijke kenmerken. Dit gaat dus verder dan alleen gezichtsherkenning; ook herkenning op basis van loop of tred, vingerafdrukken, DNA, stem, toetsaanslagen en andere biometrische of gedragsmatige kenmerken.

Deze strenge afkeuring van AI-inzet voor identificatie van individuen geldt niet alleen voor inzet maar ook voor invoer. Het voldoen aan wettelijke vereisten, inclusief de beoogde ban op brede 'AI-herkenning', moet een voorwaarde zijn voor apparatuur en systemen om een CE-keurmerk te krijgen voordat het de Europese markt binnen mag komen.

Dystopisch gevaar

De Nederlandse toezichthouder AP (Autoriteit Persoonsgegevens), die valt onder koepelorganisatie EDPB, bekritiseert het EC-voorstel om gezichtsherkenning en andere vormen van 'AI-herkenning' te reguleren. De huidige tekst van het wetsvoorstel maakt het mogelijk dat overheden dit soort technieken mogen inzetten om bijvoorbeeld criminaliteit te voorkomen en te bestrijden, merkt de AP op. In dat voorkomen schuilt een dystopisch gevaar. "Elke camera met gezichtsherkenning die we ophangen op straat, in het park, de trein of de bus, is een stap dichter bij een surveillancemaatschappij", zegt AP-voorzitter Aleid Wolfsen, die ook vicevoorzitter is van de EDPB.

Hij legt uit: "Een maatschappij waarin je nooit meer ongedwongen over straat loopt. Waarin je niet kunt ontsnappen aan de priemende ogen van systemen die jou in de gaten houden en jou herkennen, dus jou de hele dag kunnen volgen. Je stapt de deur uit en weet: ik word constant in de gaten gehouden. Dat is beklemmend, zorgt dat mensen zich minder vrij voelen om zichzelf te zijn." Wolfsen verklaart dat mogelijke hulp voor het voorkomen en bestrijden van criminaliteit het niet waard is om de vrijheid van iedere burger op te geven.