Open over algoritmes

Waarom hadden we ook alweer een algoritmeregister nodig? Algoritmes bevatten geautomatiseerde beslisregels, van eenvoudig tot complex. Die beslisregels ­bevatten criteria die bepalen of u ergens recht op heeft, iets moet doen of (terug-)betalen. Algoritmes zijn dus een soort digitale beslisbomen die voorgeprogrammeerd uw rechten en plichten vormgeven, dus ook uw mogelijkheden en kansen. Hier komen mensenrechten om de hoek kijken: we hebben er recht op te weten waarom de overheid op een bepaalde manier over ons beslist. Gebrek daaraan kan ons recht op een ­eerlijk proces schaden. En criteria die ­algoritmes toepassen mogen niet discriminerend zijn. Burgers kunnen zich niet verweren tegen discriminatie, als zij niet weten welk algoritme gebruikt is, of wat de uitkomst is. Discriminatierisico’s bij algoritmes moeten daarom serieus worden genomen. Soms zijn discriminerende criteria makkelijk te ontdekken in algoritmes. Vaker is dat heel ingewikkeld, omdat de discriminatie indirect werkt via neutraal ogende criteria (proxy’s). Deze kunnen onbedoeld nadelig uitpakken voor groepen mensen.

Een algoritmeregistratie alleen volstaat niet. Straks weten we welke algoritmes bij de overheid bestaan, maar nog niet of en wanneer ze op ons zijn toegepast.

Volgens de Algemene wet bestuursrecht (Awb) moeten besluiten van de overheid ‘draagkrachtig gemotiveerd’ worden.

Dat wil zeggen: de burger moet weten waarom en hoe het besluit tot stand is gekomen. Dat betekent dat de overheid nu al verplicht is algoritmegebruik te melden. Niet slechts in een register, maar bij iedere beslissing. Dat is noodzakelijk voor rechtsbescherming, waaronder bescherming tegen discriminatie.

Soms wordt gezegd dat openheid over algoritmes een mooi streven is, maar dat zij afgewogen moet worden tegen het belang van efficiënte en doelmatige besluitvorming. Er wordt geopperd dat intellectueel ­eigendom van private ­algoritmeontwikkelaars volledige open­baar­making in de weg staat. De doorontwikkeling van goede algoritmes zou zo belemmerd worden. Dat klinkt raar en dat is het ook. Het zou betekenen dat overheden de motivering van een besluit kunnen uitbesteden zonder daar controle over te houden. U krijgt uw gewenste vergunning niet, maar wij mogen niet vertellen waarom. Hier moeten we een heldere lijn trekken: algoritmeontwikkelaars werken voor de overheid op open­sourcebasis. Graag of niet.