D66-alarm: digitale technologieën zijn een veelkoppig monster

Met twaalf voorstellen wil Verhoeven de "steeds verdergaande datamacht van techreuzen en overheden inperken". Als voorbeeld noemt hij het Systeem Risico Indicatie (SyRI), waarmee de overheid uitkeringsfraude opspoort. In SyRI zijn allerlei gegevens van bijvoorbeeld de Belastingdienst, het UWV, de Sociale Verzekeringsbank en gemeenten aan elkaar gekoppeld. Algoritmes zoeken naar opvallende zaken, omdat die op fraude kunnen wijzen.

'Techreuzen en overheid treden diep in
ons leven'

Een groep organisaties, waaronder Privacy First, heeft een bodemprocedure aangespannen over SyRI. Verhoeven maakt zich grote zorgen over het systeem, maar ook over andere ontwikkelingen. "Nu is het SyRI, straks zijn het gezichtsherkenningscamera’s die controleren of je door rood loopt. Techreuzen en overheden kunnen steeds dieper in onze levens treden", schrijft hij in zijn pamflet Digitale Revolutie.

Algoritme Autoriteit

Een van de maatregelen waar D66 voor pleit, is het instellen van een Algoritme Autoriteit en een meldplicht vor het gebruik van algoritmen. De Tweede Kamer en de toezichthouders kunnen zo hun controletaak beter uitvoeren. Over het gebruik van ingrijpende algoritmen zoals SyRI is Verhoeven stellig: er moet een verbod komen, "tot er wetgeving en toezicht is". Een coördinerende minister voor rechtsbescherming moet in de ogen van D66 een te grote datasurveillance vanuit de overheid inperken.

Niet alleen de overheid moet worden beteugeld, ook grote techbedrijven worden te machtig, vindt Verhoeven. Voor toezichthouders als de Autoriteit Persoonsgegevens en de Autoriteit Consument en Markt moet meer geld worden vrijgemaakt.

Verhoeven wijst naar Duitsland als positief voorbeeld. Daar is het voor "Facebook al verboden om data van burgers uit Facebook, Whatsapp en Instagram te combineren". Facebook is eigenaar van alle drie die diensten. "Op Europees niveau kunnen lidstaten gezamenlijk een sterke vuist maken tegen dit soort praktijken."

Splitsen techreuzen reële optie

Verhoeven breek een lans voor de onafhankelijke journalistiek en ziet de macht van bedrijven als Google en Facebook als een directe bedreiging voor de controlerende taak van deze sector. "Een kleine aanpassing in het algoritme van Facebook leidde tot het ontslag van 1000 journalisten bij Buzzfeed en HuffPost. Dit betekent ook dat 1000x minder menselijke afwegingen worden meegewogen."

Bedrijven als Google en Facebook moeten hun maatschappelijke verantwoordelijkheid nemen. Dit betekent dat ze een onafhankelijke redactie moeten instellen en openbare statuten moeten opstellen die uiteenzetten hoe en waarom hun algoritmes keuzes maken. Deze bedrijven moeten verder werk maken van dataportabiliteit zodat de macht over data zich niet concentreert bij een handvol ondernemingen. Kleinere concurrenten zouden zo ook slimme algoritmen kunnen ontwikkelen op basis van die data. Bovendien moet het makkelijker worden over te stappen naar concurrenten.

Ook zou het mogelijk moeten zijn grote techbedrijven op te splitsen als ze te machtig worden, en moeten fusieplannen van grote techbedrijven kritischer onder de loep worden genomen. Hier ziet Verhoeven een duidelijke rol voor de Europese Unie. "Hier moet Europa één machtsblok zijn."

Verhoeven doet zijn voorstellen deze week bij de begrotingsbehandelingen van de ministeries van Economische Zaken en van Justitie en Veiligheid.