'AI mag nooit leven nemen'

Het pleidooi van deze AI-deskundigen is gepubliceerd tijdens de 2018 International Joint Conference on Artificial Intelligence (IJCAI) die deze week in Stockholm plaatsvindt, meldt The Verge. De publicatie werd geïnitieerd door het Future of Life Institute, een organisatie voor onderzoek naar mogelijkheden om bedreigingen van de menselijke samenleving te bezweren.

Het pleidooi richt zich vooral tegen de ontwikkeling van wapensystemen waarbij kunstmatige intelligentie doelen selecteert en aanvalt zonder menselijke inmenging. De ondertekenaars vinden het moreel verwerpelijk dat machines gaan oordelen over leven of dood. Bovendien zien zij de verspreiding van dergelijke autonome wapens als een gevaarlijke destabilisatie voor elk land en individu.

Tijd voor actie

Het is niet de eerste keer dat het Future of Life Institute zich met publieke verklaringen richt tot organisaties als de Verenigde Naties om te komen tot beleid rond de ontwikkeling van lethal autonomous weapons (LAWS). Een van de ondertekenaars - Max Tegmark, hoogleraar fysica aan MIT - stelt dat het tijd is voor de leidende figuren op het gebied van kunstmatige intelligentie om de overgang te maken van alleen praten naar het ondernemen van actie. Het is volgens hem hoogste tijd om autonome AI-wapens aan banden te leggen.

Tegmark trekt de vergelijking met biologische wapens en landmijnen waar dergelijke beperkingen wel voor bestaan. The Verge benadrukt dat het niet makkelijk is te bepalen wanneer wapens autonoom zijn en wanneer niet. Wat bijvoorbeeld als een mens in het proces niets anders kan doen dan de beslissingen van AI-systemen goedkeuren? Technisch gezien valt het systeem dan als niet-autonoom te beschouwen, maar praktisch gezien zijn daar kanttekeningen bij te plaatsen.