Nieuw kabinet moet verdeling van toezicht op AI snel regelen, bepleiten toezichthouders

Het advies is opgesteld door de AP en de RDI op verzoek van het ministerie van Economische Zaken en Klimaat en het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. Aan het advies werkten 20 andere toezichthouders mee, die allemaal mogelijk een rol gaan spelen in het toezicht op AI. Centraal in het advies staat dan ook het belang van goede samenwerking tussen toezichthouders. Daarnaast benadrukken de AI en de RDI dat er op tijd voldoende geld en personeel beschikbaar moet zijn, zodat ze zich kunnen voorbereiden op hun taken, zoals voorlichting en handhaving.

Snel besluiten

De toezichthouders vragen het kabinet om een aantal zaken snel te besluiten. Zo zijn er grondrechtentoezichthouders nodig, die erop letten dat de grondrechten van alle Nederlanders niet worden geschonden door AI-systemen. In het advies is die rol voor het College voor de Rechten van de Mens (CRM) en de AP. Ook moeten er instanties worden aangewezen om te beoordelen of AI-systemen aan Europese standaarden voldoen.

Vorige maand stemden de Europese ministers in met de AI verordening, oftewel de Europese AI Act. Sommige onderdelen van de AI Act zijn waarschijnlijk al in januari 2025 van kracht, waaronder het verbod op AI-systemen met een onaanvaardbaar risico. In het advies staat dat de AP verantwoordelijk wordt voor het toezicht op verboden AI-systemen.

De AI Act regelt dat AI-systemen met een hoog risico alleen worden toegelaten als ze aan strenge eisen voldoen. De systemen krijgen een CE-markering, net als bijvoorbeeld liften en speelgoed. In het advies raden de toezichthouders aan dat het toezicht op AI zoveel mogelijk moet aansluiten bij het bestaande toezicht per sector. Dat betekent dat het CE-keurmerk voor AI-systemen wordt gegeven door de sectorale toezichthouder. De Nederlandse Voedsel- en Warenautoriteit (NVWA) blijft bijvoorbeeld speelgoed keuren, ook als er AI in verwerkt zit.

Hoog risico-AI

Er zijn ook producten waarin hoog risico-AI verwerkt wordt, waarvoor nu nog geen CE-markering verplicht is. Daarvoor komt het toezicht bij de AP te liggen, los van de sector waarin de systemen worden ingezet. De AP wordt daarmee de zogeheten marktoezichthouder.

Aleid Wolfsen, voorzitter van de AP, zegt: "De markttoezichthouder gaat erop toezien dat op de markt gebrachte AI ook echt voldoet aan eisen op het gebied van bijvoorbeeld het trainen van AI, transparantie en menselijke controle. Dat vereist veel specialistische kennis en kunde, en het is efficiënt als die gebundeld is. Belangrijk is ook dat de AP dan het overzicht heeft: de bedrijven die zulke AI ontwikkelen, doen dat vaak niet alleen voor één sector. Samenwerking met sectorale toezichthouders is daarbij cruciaal."

Twee uitzonderingen

Er staan twee uitzonderingen in het advies: het markttoezicht op AI in de financiële sector ligt bij de Autoriteit Financiële Markten (AFM) en De Nederlandsche Bank (DNB). Het marktoezicht op AI-systemen in de kritieke infrastructuur ligt bij de Inspectie Leefomgeving en Transport (ILT) en de RDI. Een ander lastige toepassing is AI in de rechtspraak. Daarover zegt het advies dat het markttoezicht hierop "zodanig vorm moet krijgen dat de onafhankelijkheid van rechterlijke autoriteiten is gewaarborgd".

De Nederlandse toezichthouders zijn al een jaar bezig om het toezicht op AI vorm te geven. Ook in de andere lidstaten moet het nationale toezicht snel worden geregeld. De Europese toezichthouders zullen veel moeten samenwerken, met elkaar en met het nieuwe Europese AI Office, dat toezicht zal houden op grote AI-modellen.

Dit artikel is eerder verschenen op iBestuur, zustertitel van AG Connect.