AI aan strikte banden door voorstel Europese Commissie

De voorgestelde nieuwe regels - die onder leiding van Eurocommissaris Margrethe Vestager zijn opgesteld - moeten voorkomen dat toepassingen van kunstmatige intelligentie schadelijke effecten hebben op consumenten en bedrijven. Er komt een lijst met verboden toepassingen, denk aan gezichtsherkenning in publieke ruimten of social crediting, ofwel het volgen van burgers om hen bij gewenst gedrag voordelen te geven. Overigens staat in het voorstel dat er enkele uitzonderingen komen daarop als de nationale veiligheid in het geding is.

Verder moeten alle toepassingen een conformiteitstoets doorlopen en komt er een CE-keurmerk. Voor toepassingen in de categorie 'high risk' kan deze toets alleen gedaan worden door een bevoegde instantie. In andere gevallen kan ook een zelftoets plaatsvinden. Bij apparatuur die toch al extern getoetst moet worden voor het verkrijgen van een CE-keurmerk - denk bijvoorbeeld aan medische apparatuur - moet het toevoegen van kunstmatige intelligentie ook worden meegenomen in de test.

Gebrek aan gekwalificeerd personeel

"Het is een goede initiatief, laat ik dat voorop zetten", stelt Bart Schermer, oprichter van juridisch- en public-affairsbureau Considerati. "Ik zie echter in de haalbaarheid een groot probleem. Nu al is het voor bedrijven en kennisinstellingen heel erg moeilijk gekwalificeerde datascientists te vinden. Straks moet er bij de externe beoordelingsorganisaties en bij de toezichthouders een hele nieuwe categorie specialisten aan het werk om de toetsing goed uit te kunnen voeren." Het gebrek aan specialisten is nu al regelmatig de oorzaak dat het op de markt brengen van nieuwe apparatuur vertraging oploopt. Dat probleem gaat alleen maar groter worden. "Gaat dat geen rem vormen op innovatie", vraagt Schermer zich af.

Het voorstel gaat nu ter beoordeling naar het Europees Parlement en de Europese Raad die er amendementen op kunnen indienen. Daarna gaan ze met de Europese Commissie in conclaaf om er definitieve wetgeving van te maken. Dat kan nog wel een aantal jaar in beslag gaan nemen, verwacht Schermer. "Bij de AVG kostte dat proces vier jaar, maar het zou ook zeven jaar kunnen gaan duren. "Hij verwacht niet dat er over de definitie van de categorieën veel discussie gaat ontstaan, maar wel over welke toepassingen in de verschillende categorieën gaan vallen. "Daar gaat een heel lobbycircuit losbarsten." In dat circuit zitten grote machtige partijen zoals Amazon, Microsoft, Google en Facebook.

Hoge boetes in het vooruitzicht

In het voorstel waarschuwt de Europese Commissie al dat bedrijven die zich niet houden aan de regels boetes tegemoet kunnen zien van maximaal 6% van hun jaaromzet.