Superintelligentie kost banen

De combinatie van veel goedkopere en snellere computerchips (bijvoorbeeld de Blue North-chip en de chips van Nvidia), de toegang tot ongekende hoeveelheden data (Big Data), de hulp van talloze internetgebruikers (crowd sourcing) en de investeringen van grote computerbedrijven maakt het mogelijk dat machine-learningtechnieken een hoge vlucht nemen. Machine learning stelt computers en robots in staat om zelf van alles te leren zonder dat mensen elk stukje kennis moeten voorzeggen. Hiermee werden doorbraken bereikt, zoals zelfsturende (zelfrijdende) auto’s, automatisch vertalen, het herkennen en interpreteren van beelden, belangrijk voor medische diagnoses en het winnend spelen van moeilijke spelletjes zoals Go. Het menselijk brein ziet onmiddellijk de mogelijke consequenties voor de toekomst. Eminente wetenschappers en industriëlen wijzen erop dat deze ontwikkeling banen gaat kosten. Ik deel die mening. Vele banen zullen op den duur verdwijnen omdat computers of robots het werk goedkoper en beter zullen doen dan mensen.

Tegen risico's kunnen we ons goed beschermen

Voor ik op het verlies van banen inga, wil ik nog een ander mogelijk gevaar bespreken, namelijk het risico dat nieuwe superintelligente computers of robots beslissingen nemen die niet in ons belang zijn, of, niet als dusdanig door ons herkend worden.

Normen en waarden

Het gevaar dat superintelligente machines beslissingen nemen waar we het niet (of niet direct) mee eens zijn, is niet denkbeeldig. Tegen deze risico’s kunnen we ons goed beschermen door bij de verdere ontwikkeling ervan te zorgen voor drie zaken. Ten eerste moeten die machines ons menselijk normen- en waardesysteem als leidend principe leren kennen en gebruiken. Ten tweede moeten we in onze wetgeving vastleggen dat we nooit onze eigen verantwoordelijkheid voor het nemen van belangrijke beleidsmaatregelen mogen afschuiven naar machines. Ten slotte, door de machines het vermogen en de plicht te geven om, desgewenst, aan ons uit te leggen wat hun beweegredenen zijn voor hun beslissingen en hierover met ons in discussie te gaan. Door de eindverantwoordelijkheid bij ons mensen te laten liggen, en de machines de plicht te geven steeds bij te leren van deze discussies, zal de kwaliteit van de besluiten omhoog gaan en blijven zowel mens als machine zich ontwikkelen. Dan kunnen we spreken van co-evolutie.

Steeds de menselijk maat als toetssteen gebruiken

Een goed besef van normen en waarden en een goede dialoog kunnen voeren, gaan hand in hand. Persoonlijk wil ik me juist aan deze vraagstukken wijden. Voor mij is het van belang om op die weg steeds de menselijk maat als toetssteen te gebruiken en eventueel onze verantwoordelijkheid te nemen en de beslissingsbevoegdheid van intelligente machines aan banden te leggen. Ik weet niet hoe lang het gaat duren, en of we het goed voor elkaar kunnen krijgen. Wel weet ik dat ik tegen de tijd dat ik aan een pensioen toe kom, zelf geconfronteerd zal worden met de kwaliteit van mijn werk. De kans is groot dat de intelligente machines van 2040 de machines zijn die mij op mijn oude dag zullen verzorgen.

Banen

Het verlies van bestaande banen kan mogelijk zeer ernstige gevolgen hebben voor de mensen die het overkomt. Het geijkte antwoord op dit probleem is, dat tot nu toe elke technologische revolutie banen heeft gekost, maar dat er minstens zoveel nieuwe banen voor in de plaats zijn gekomen. Het is echter wel de vraag of de mensen die hun baan kwijtraken, in staat zullen zijn om zich om te scholen. Het aantal persoonlijk drama’s kan groot zijn. Om de impact en het aantal drama’s zoveel mogelijk te beperken, is het goed om onze technische wetenschappers te blijven bevragen welke banen op welke termijn door computers en robots te vervangen zijn, en welke banen er bij zullen komen om dat proces te ondersteunen. Het principe van life-long learning wordt (nog) belangrijker.

Duurzaamheid moet een grote rol spelen

Daarnaast denk ik dat het van belang is dat we, onder leiding van onze ethici, en met onze wetenschappers, een brede maatschappelijke discussie voeren over welke ontwikkelingen we wel en niet willen doorzetten. In dit debat vind ik dat duurzaamheid een grote rol moet spelen. Als het gaat over duurzaamheid telt niet alleen het elektriciteitsverbruik van die intelligente machines, maar ook de duurzaamheid van de productie-, onderhouds-  en hergebruikprocessen.

Degeneratie

Het laatste gevaar dat ik wil bespreken, is te zien in de film Wall-E. In die film zijn mensen verworden tot wezens die zo weinig bewegen dat ze ook nauwelijks meer kunnen bewegen. Ze worden omringd en verzorgd door intelligente machines en houden zich ledig met spelletjes en simpel vermaak. Ze zoeken geen nieuwe uitdagingen meer op. Zo komt de ontwikkeling tot stilstand, en begint een degeneratieproces. Het talent van de mens om het zich makkelijk te maken is mooi zolang het ons motiveert om ons verder te ontwikkelen. Het is mogelijk desastreus als dat talent ons verleidt om er zo erg ons gemak van te nemen, dat er geen sprake meer is van een evolutie, maar van een degeneratie van de mens.

Daar staat tegenover dat we de tijd die we vrij kunnen maken door machines een groot deel van het werk te laten doen, kunnen inzetten om onze evolutie positief door te zetten. We kunnen met elkaar aan de slag om richting geven aan de verdere ontwikkeling van onze maatschappij en onze planeet.

Co-evolutie

Kortom, we moeten zeker wat doen om ons te beschermen tegen de gevaren van superintelligente machines. Maar als we het goed aanpakken dan heb ik er alle vertrouwen in dat we een co-evolutie tussen mens en machine op gang kunnen brengen, die in balans is met de ontwikkeling van onze planeet.