Innovatie & Strategie

Wetenschap
Prof. Jaap van den Herik

Macht komt niet meer uit de loop van een geweer

Datatechnologie is macht. Welke gevolgen krijgt dat voor onze samenleving?

11 juni 2016

Datatechnologie is macht. Economische, maar vaak ook politieke. Als computers slimmer worden dan mensen, zal het bedrijfsleven er als de kippen bij zijn om met AI-macht het voortouw te nemen. Welke gevolgen kan dat  hebben voor de open samenleving? Professor Jaap van den Herik heeft er wel een mening over.

Boston werd, nadat tijdens de marathon van 2013 twee bommen waren ontploft, hermetisch afgesloten. Niet om de stad huis voor huis uit te kammen. Nee, om even de tijd te hebben voor een dataonderzoek. Uiteindelijk lukte het net niet de Tsarnaev-broers langs die weg te identificeren, maar de software waarmee het wel zou zijn gelukt bestond al. Data is macht. En software om ­data te achterhalen en analyseren genereert nog meer macht. Dat weten inlichtingendiensten en bedrijven maar al te goed. En als data macht is, dan is kunstmatige superintelligentie – naar schatting vanaf circa 2100 praktijk – supermacht. Hoe houden we die escalerende IT-macht in toom? Bij het Leiden Centre of Data Science werkt een hoogleraar die al meer dan dertig jaar onderzoek doet op het snijvlak van datatechnologie, speltheorie, ethiek, rechtsfilosofie en kunstmatige intelligentie. Hij heet Jaap van den Herik en hij vertelt over zijn gedachten over computers en macht.

 

De toegang tot data en datatechnologie is maatschappelijk ­ongelijk verdeeld. Niet-democratisch gecontroleerde lichamen – zoals ­ondernemingen – lijken relatief succesvol in het naar zich toe ­trekken van die datamacht.
“Ja, dat is wel hoe het werkt: met data wordt geld verdiend en met dat geld wordt steeds een diepgravender datatechnologie ontwikkeld of opgekocht. Een maatschappelijk riskante ontwikkeling waar de politiek zeker goed naar moet kijken. Dat gebeurt ook; kijk bijvoorbeeld naar ­Europa, dat nu duidelijk paal en perk stelt aan het doen en laten van de ­datagigant Google.”

 

Tot dusverre heeft de computer vooral laaggekwalificeerd werk van de mens overgenomen, maar met de vooruitgang op gebieden als Big Data en kunstmatige intelligentie (AI) vrezen ­sommigen dat de computer ook het werk van hoger opgeleiden kwalitatief en of kwantitatief zal aantasten.
“Dat de computer geleidelijk aan ook werk van kenniswerkers zal overnemen, lijdt wat mij betreft geen twijfel. Karl Dittrich, voorzitter van het college van Bestuur van de Universiteit Maastricht, zei me ooit ‘Maar Jaap, je denkt toch niet dat computers ooit het werk van hoogleraren kunnen overnemen?’, waarop ik antwoordde: ‘Dat denk ik wel, maar ik verwacht dat bestuursfuncties eerder worden weggeautomatiseerd dan onderzoek en onderwijs.’

De echt spannende vraag is natuurlijk of het overdragen van kenniswerk aan kunstmatige intelligente systemen nadelig is. Ik denk van niet. Kijk naar schaken. In 1997 versloeg Deep Blue wereldkampioen Kasparov en in 2006 verloor Kramnic van Fritz, een schaakprogramma dat op een bureaucomputer draait. Inmiddels hebben de tien sterkste computerprogramma’s geen enkele moeite meer met een partij tegen een grootmeester. Toch schaken de grootmeesters onderling rustig ­verder en zijn grote schaaktoernooien nog even spannend als altijd.”

 

Oké, maar schaken is een spelletje, daarmee kun je gewoon ­doorgaan ook al weet je dat een computer het beter kan. Maar hoe is het voor een een docent of een journalist als zijn werk verdwijnt omdat een computer het sneller en beter doet?
“Op dat moment is het ongetwijfeld even slikken, net als voor de mensen van het foto-ontwikkellab. Het verdwijnen van bepaalde uitvoerende banen als gevolg van technologisering zijn we vanzelfsprekend gaan vinden, en ik verwacht niet dat er erg veel anders zal worden gereageerd als straks door robotisering ook kennisgebaseerde banen verdwijnen. De eerste aanzetten in de richting zie je al in de juridische wereld. Ik las onlangs dat het jaarlijkse aantal inschrijvingen voor een rechtenstudie aan het Manhattan Institute is teruggelopen van meer dan 1000 naar zo’n 500. Die studenten zien dat in ieder geval particulieren in de VS veel minder snel de hulp inroepen van advocaten nu ze zelf op Google Scholar of FindLaw kunnen uitzoeken wat hun positie is. Er zijn al toepassingen die een heel betrouwbare voorspelling kunnen doen van de te verwachten uitspraak bij een ­gegeven casus. Als leek ben je misschien een dagdeel kwijt om dat uit te zoeken, dus voor de doorsnee particulier is dat een stuk voordeliger dan een advocaat inschakelen tegen een tarief van 220 euro per uur of meer.”

 

Front office-processen en eerstelijns contacten worden steeds meer softwarematig afgehandeld. Doorgaans via web-applicaties die de consument dankzij Big Data en AI steeds geraffineerder daar weten te krijgen waar ze hem hebben willen.
“Als je het zo formuleert ben ik inderdaad geneigd te zeggen, ‘Nee, dat is niet in mijn belang’. Maar een bedrijf zal zeggen dat het een win- win-­situatie is: doordat ze via data-analyses én je interesses én je ­situatie kennen, kunnen ze je een meer op jouw situatie toegespitst aanbod doen en effectiever overtuigen dat dit echt iets voor jou is. Als jij dan tevreden bent met de deal die ze je bieden, wat is er dan ­eigenlijk mis mee?”

 

Maar wat als je ontevreden bent, omdat het misschien Geen bedrijf  was maar de overheid en omdat er iets fout ging doordat de sitebouwers geen rekening hielden met een uitzonderlijke omstandigheid waarin jij verkeert. Kortom, wat als je als particulier bent uitgeleverd aan een computersysteem dat jou verkeerd typeert?
“Dan moet dat computersysteem worden verbeterd. We werken in AI-reseach aan zelflerende algoritmen en de volgende stap wordt adaptieve ­systemen, die zichzelf aanpassen op grond van hun ervaringen. Ik denk dat dat zo omstreeks 2025 praktische toepassingen krijgt.”

 

Waarom zichzelf aanpassen? Waarom niet door een functioneel ­beheerder?
“Ja, als mens willen we de baas blijven over onze applicaties, maar dat heeft natuurlijk alles te maken met onze ervaring dat computersystemen vaak nog mankementen vertonen. Ze hebben vooral problemen met ­uitzonderingen en met verandering. Maar dat is nu juist waar adaptieve ­algoritmen een antwoord op moeten bieden. Als bedrijven straks zien dat software die zichzelf aanpast sneller en effectiever werkt dan voortdurend maar weer nieuwe releases ontwikkelen, testen en uitrollen, dan zullen ze de menselijke controle geleidelijk aan loslaten.”

 

Dus de computer kan het dan beter dan de mens?
“Ja, dat punt zal komen.”

 

Is het dan ook denkbaar dat de mens de achterliggende ­overwegingen van het AI-systeem niet meer kan volgen? Ik denk nu even aan een overheidsapplicatie, bijvoorbeeld een vergunningensysteem.
“Zo’n computer moet z’n beslissingen wel kunnen motiveren, met ­argumenten die uiteindelijk teruggrijpen op regels, normen, waarden en ethische principes die deel uitmaken van z’n ontwerp-specificaties.”

 

Maar als de achterliggende redenatie nu gewoon te complex is om door de mens nog te worden gevolgd? Zoals een schaakcomputer een superieure zet kan doen op grond van een analyse die wij als mens onmogelijk nog kunnen overzien.
“Ja, zoals ik die schaakcomputer vertrouw, zou ik ook een goed ontworpen en gedegen getest AI-systeem vertrouwen. Vergeet niet dat dat we tegen die tijd dergelijke systemen zijn gaan inzetten omdat we hebben vastgesteld dat ze betere beslissingen nemen dan mensen.”

 

Ook op normatief vlak? Bijvoorbeeld over euthanasie? Mag een computer over leven en dood beslissen?
“Als die computer dat aantoonbaar beter doet en ook beter beargumenteert dan mensen, waarom dan niet? Ik voorzie ook toepassingen rond ­bijvoorbeeld abortus of auditing en het toezicht op wetenschappelijke ­integriteit. Maar niet voor 2080 schat ik.”

 

Mag zo’n computer dan ook een te eigenzinnig en ‘te alternatief’ paar de ouderlijke macht ontzeggen?
“[Zucht] Ja. Want we mogen ervan uitgaan dat de computer alle scenario’s heeft geëvalueerd en kiest voor het ethisch meest verantwoorde scenario. Het grote voordeel is natuurlijk dat er ook objectievere besluiten uit ­voortkomen.”

 

Moet het parlement straks de richtlijnen volgen van kunstmatig intelligente raadgevers?
“Ons land wordt nu geregeerd door doctorandus Rutte. Dat is niet de grootste geleerde, maar ik vind wel dat hij het prima doet. Tegelijkertijd zou ik er geen probleem mee hebben om hem te vervangen door een kunstmatig intelligent systeem dat zijn werk – vooruit zien, de boel bij ­elkaar houden, draagvlak vinden, noem maar op – nog beter zou doen.”

 

Zal de ethiek van autonoom adaptieve superintelligentie ­uiteindelijk de mens nog wel respecteren? Onder meer Stephen Hawking en Elon Musk waarschuwden vorig jaar voor een ­mogelijke AI-takeover.
“Ja, superintelligentie, die de mensen echt in de volle breedte van z’n intellectuele mogelijkheden overtreft; Ray Kurzweil denkt dat het al vanaf 2045 mogelijk zal zijn; ik vermoed dat het minder snel gaat, zo vanaf 2100 misschien. Ik ben er niet zo bang voor. Het komt mij voor dat een werkelijk intelligent systeem vanzelfsprekend ook moreel hoogstaand zal zijn. Als wij in het bos lopen en een mierenhoop zien, dan gaan we – mits we de leeftijd van een jaar of acht te boven zijn – er toch ook niet met een stok in zitten poeren? Dus waarom zouden superintelligente robots de mens niet gewoon met rust laten?”

 

En andersom? Hoe moet de mens zich voelen, als intellectuele mier in de schaduw van de superintelligente computer?
“Och, de mensheid heeft zich eeuwenlang comfortabel gevoeld in de schaduw van een superintelligente godheid, dus kennelijk ligt zo’n verhouding niet per se problematisch.”

 

Als data macht is, dan geldt dat nog sterker voor kennis. Is het in dat licht te verantwoorden dat de toegang tot krachtige kunst-matige intelligentie straks, net als de toegang tot data nu, maatschappelijk ongelijk verdeeld zal zijn? Dat vooral onder­nemingen in staat zullen zijn deze kunstmatige intelligentie in hun voordeel aan te wenden?
“De vraag is natuurlijk of bedrijven of overheden het zich zullen kunnen veroorloven om die superintelligentie kwaadaardig aan te wenden. Die vraag is lastig te beantwoorden. We zijn op deze planeet met zo’n 8 miljard mensen. Ik denk dat de overgrote meerderheid daarvan aardig is, misschien wel 90 procent. Maar dan zijn er altijd nog ruim 800 miljoen die niet zo aardig zijn en die misschien wel heel nare dingen kunnen doen met geavanceerde technologische middelen. De vraag is wat je er tegen kunt doen. Een verbod op ontwikkeling van AI lijkt me weinig zinvol. Dat is geprobeerd met nucleaire technologie en met gentechnologie en in ­beide gevallen moeten we toch eigenlijk vaststellen dat deze strategie heeft gefaald. Misschien moeten we ‘goede’ superintelligente systemen inzetten om ons te beschermen tegen kwade AI-toepassingen. Als we dat willen, dan lijkt het mij verstandig om dan ook met name te investeren in publiek onderzoek op AI-gebieden die daarbij van nut kunnen zijn, zoals normatieve en ethische algoritmen, en niet te vergeten beveiligings­technologie.”

 

Is kwaadaardig gebruik van AI het enige probleem waarmee we rekening hebben te houden? Ontstaat er niet ook een zinsgeving-impasse als de machine de mens straks voorbijstreeft wat betreft veelzijdigheid, creativiteit, humor en wellicht zelfs wijsheid?
“Het zal ongetwijfeld even wennen zijn. De mens heeft zichzelf de afgelopen eeuw nogal op een voetstuk geplaatst, maar het humanisme is natuurlijk niet het eindpunt van het denken over de mens. Als de ­machine de mens straks voorbijstreeft, dan zal dat niet de eerste klap voor ons zelfbeeld zijn. Copernicus heeft ons laten zien dat we niet het centrum van het universum zijn. Darwin maakt ons duidelijk dat we niet zijn geschapen naar het beeld van God. En Freud zegt ons dat we ook al niet het rationeel denkende en voelende wezen zijn dat we meenden te zijn. Dus die volgende slag zullen we ook wel te boven ­komen. Als AI-systemen straks alles beter doen dan wij, nu, dan kunnen we gaan zingen en dichten, of wat we anders leuk vinden. Net zoals die grootmeesters blijven schaken, ook al weten ze dat ze zijn ‘ge-outclassed’ door de computer.”

Dit artikel verscheen eerder in AutomatiseringGids nr. 12  2015

 
Lees het hele artikel
Je kunt dit artikel lezen nadat je bent ingelogd. Ben je nieuw bij AG Connect, registreer je dan gratis!

Login

Registreren

  • Direct toegang tot AGConnect.nl
  • Dagelijks een AGConnect nieuwsbrief
  • 30 dagen onbeperkte toegang tot AGConnect.nl

Ben je abonnee, maar heb je nog geen account? Activeer dan nu je account!