Voorstellen om de macht van techbedrijven terug te dringen

Voormalig Europarlementariër Marietje Schaake (D66) maakt zich al lange tijd zorgen over de uitholling van de democratie door de groeiende macht van techbedrijven. Daarom wordt ze nogal eens uitgenodigd door regeringsleiders, toezichthouders en gemeenten om mee te denken. Keer op keer hoorde de internationaal beleidsdirecteur van het Stanford University Cyber Policy Center zichzelf hetzelfde verhaal vertellen, met altijd te weinig tijd voor alles wat ze te zeggen had. Bovendien vindt ze haar verhaal relevant voor een breder publiek. Een beetje expert weet wat haar in zo’n geval te doen staat: tijd om een boek te schrijven.

Verontrustende ontwikkeling

'De tech coup' gaat onder meer over techmiljardair Elon Musk, die in zijn uppie bepaalt of Oekraïne wel of niet wordt ondersteund door satellietinternet van Starlink. Het gaat over de vérgaande lobbypraktijken van Microsoft. Over Meta, dat onder een valse naam de komst van datacentra probeert door te drukken. Over Palantir, dat steeds meer taken van de Amerikaanse overheid overneemt. De analyse van Schaake laat zien dat de voorbeelden niet op zichzelf staan, maar deel uitmaken van een verontrustende ontwikkeling.

Kun je wel spreken van een coup als er geen gecoördineerd plan achter zit?

"Het ecosysteem van grote en kleine techbedrijven is in de kern gebouwd vanuit het idee dat ze dingen beter doen dan de overheid. Soms vanuit mensenrechten bevorderende gedachten, zoals betere versleuteling van data, maar vaker vanuit winstbejag. Het inschakelen van een bedrijf als Palantir zorgt ervoor dat de transparantie, afrekenbaarheid en de kwaliteit van de overheid zelf omlaaggaan. Als je maar blijft uitbesteden, weet je op een gegeven moment steeds minder, waardoor het logisch lijkt om de volgende taak ook weer uit te besteden. Voor je het weet, beland je in een negatieve spiraal."

De kritiek op big tech is welbekend. Jij opent in het boek daarnaast de aanval op cyberbeveiligingsbedrijven. Wat doen die verkeerd?

"De belofte ‘wij leveren veilige software waarmee je database goed beheerd en beveiligd is’ blijkt helemaal niet waar te zijn. Het aantal datalekken en cyberaanvallen is echt schrikbarend. Er wordt blind op vertrouwd dat de technologie en het beheer daarvan in goede handen is, maar dat is naïef."

Die bedrijven zullen tegenwerpen dat je IT nooit 100 procent veilig kunt krijgen.

"Het is inderdaad zo dat software nooit helemaal te beveiligen is, maar tussen waar we nu zijn en 100 procent waterdicht, valt een heleboel verbeteren."

Onze eigen minister zei naar aanleiding van de recente storing in het militaire glasvezelnetwerk simpelweg: ‘Wen er maar aan’.

"Ik zou graag van de verantwoordelijke bewindspersoon willen horen dat er alles aan wordt gedaan om dit te verbeteren en dat degenen die dit verkeerd hebben gedaan, ter verantwoording worden geroepen. Steek er meer ambitie in!"

Publieke digitale infrastructuur

Schaake gelooft in het creëren van een Europese publieke digitale infrastructuur om de grote afhankelijkheden tegen te gaan. "Bij veel techbedrijven zijn overheden de grootste klant. Er wordt krankzinnig veel geld aan uitgegeven. Je kunt daarmee echt wat bereiken."

Moet dat geld dan in een open-source-richting worden gestoken?

"Zeker. Ik vind het goed dat datgene wat met publieke middelen wordt ontwikkeld open source is. Maar belangrijker is nog dat je het bestuur ervan heel duidelijk kadert in de rechtsstaat. Dat betekent dat je onafhankelijk toezicht kunt toepassen. Dat er duidelijkheid is over wie er toegang tot informatie heeft om academisch onderzoek te doen, of om gewoon naar de principes van transparantie te kunnen leven, zoals bijvoorbeeld beschreven in de Woo [Wet open overheid - red.]."

Coalities

Ze heeft haar hoop gevestigd op coalities die samenwerken op basis van publieke waarden om hun positie tegenover de techsector te verstevigen. Zoals in Nederland PublicSpaces, waarbij de gemeente Amsterdam is aangesloten. Als het aan Schaake ligt, sluiten allerhande organisaties dergelijke verbonden, van vakbonden tot milieuorganisaties en van gemeenten tot archieven en ziekenhuizen.

"De overheid kan deze coalities helpen", zegt ze. "Stel bijvoorbeeld modelcontracten beschikbaar, zodat zij makkelijker de juiste criteria kunnen stellen op het moment dat ze een nieuw contract of een nieuw IT-systeem nodig hebben."

Angst om de boot te missen

Komende jaren zullen veel contracten met IT-leveranciers worden gesloten. Volgens recent onderzoek van Binnenlands Bestuur en de Vereniging van Gemeentesecretarissen (VGS) hebben gemeenten hoge verwachtingen van AI. Zestig procent van de gemeenten weet nog niet precies hóe, maar ze zijn er wel zeker van dát ze het gaan gebruiken.

"Ik vind dit zorgwekkend", zegt Schaake. "Ze willen de boot niet missen? Als je eigenlijk al hebt besloten dat je het wil en dan pas bedenkt onder welke voorwaarden, dan ben je een makkelijke prooi. Dan word je vatbaar voor utopisch denken over AI, wat vaak leidt tot de uitholling van het publiek belang."

Doemscenario's

Het kost Schaake weinig moeite doem­scenario’s te schetsen voor gevallen waarin gemeenten zonder duidelijke kaders en toezicht aan het experimenteren slaan met AI. Mogelijk gaan ze veel geld uitgeven aan systemen die niet passen op gemeentelijk niveau. Of aan systemen die discrimineren, wat ertoe leidt dat de gemeente burgers slecht behandelt. Of aan slecht beveiligde systemen. "Er is nog zo veel dat we niet weten over AI."

Het belang van transparantie over nieuwe technologie is een terugkerend thema in het boek. Zo wil de IT-specialist een publiek verantwoordingsmechanisme instellen voor bedrijven die zakendoen met de overheid. Volgens een simpel principe: elke wet die geldt voor overheidsorganisaties en  is gericht op instandhouding van transparantie en verantwoordingsplicht, moet ook worden toegepast op technologiebedrijven die taken uitvoeren namens de overheid. "Het gaat erom dat overheden hun eigen verantwoordelijkheden niet meer kunnen afschuiven op techbedrijven."

Dit artikel is eerder verschenen op Binnenlands Bestuur, zustertitel van AG Connect.