Verbod op generatieve AI voor rijksambtenaren in de maak

Het dagblad kreeg een conceptvoorstel van zo'n verbod in handen, dat is opgesteld door de Autoriteit Persoonsgegevens en landsadvocaat Pels Rijcken. Het voorgenomen verbod heeft volgens de krant betrekking op AI-programma’s die teksten, foto’s, audio of video kunnen genereren, waaronder ChatGPT, Bard en afbeeldingmakers als Dall-E en Midjourney.

Handreiking voor AI

De reden voor het in de maak zijnde verbod is dat veel toepassingen getraind zijn met inhoud waarop auteursrecht rust. Ook zijn er privacyzorgen omdat er via de toepassingen persoonlijke gegevens kunnen worden gelekt. AI-toepassingen waarvoor een contract is afgesloten met de overheid, mogen vermoedelijk wél worden gebruikt door ambtenaren. In zo'n contract moeten dan rechtenkwesties worden afgedekt en dataprivacyzorgen worden geadresseerd.

 Van Huffelen ziet volgens de Volkskrant "kansen voor nuttig gebruik van generatieve AI binnen de overheid, maar dan wel op een veilige manier". Met behulp van diverse pilotprojecten, die halverwege 2024 moeten zijn afgerond, komt er een handreiking voor verantwoord gebruik van AI voor de overheid. Daar hoort ook een opleidingsprogramma bij.

Ook impact op toeleveranciers voor Rijk

Het mogelijke verbod wordt binnenkort behandeld in de ministerraad. Bij een akkoord gelden de regels niet alleen voor de ambtenaren zelf, maar ook voor leveranciers van het Rijk. Het gaat dus niet alleen om gebruik van AI-toepassingen door de overheid, maar ook vóór die grote IT-opdrachtgever.