Google bouwt dodemansknop voor kunstmatige intelligentie

In het artikel gaan de onderzoekers van Google DeepMind in op het vraagstuk dat ontwikkelaars van kunstmatige intelligentie weliswaar een rode stopknop in hun ontwerpen kunnen inbouwen, maar dat de situatie kan ontstaan dat het systeem zelf de werking van die stopknop ongedaan kan maken.

Zijn de maatregelen voldoende?

In een wiskundig onderbouwd betoog laten zij zien hoe kan worden voorkomen dat een intelligent systeem leert het ingrijpen door een operator tegen te werken. Ze noemen een aantal voorbeelden van algoritmen die zo op een veilige manier kunnen worden gestopt. Ze plaatsen er wel de kanttekening bij met de vraag of die methode bij alle algoritmen kan worden toegepast. Een tweede mogelijke oplossing is dat er periodieke stops worden ingebouwd, bijvoorbeeld elke nacht gedurende een uur. Dan moet wel iets worden geregeld dat de reguliere taken die het algoritme uitvoert, zo min mogelijk hinder ondervinden van de periodieke stops.

Google DeepMind is het Britse bedrijf dat Google in 2014 overnam. Google heeft de ontwikkeling van kunstmatige intelligentie een belangrijke plek gegeven in de bedrijfsstrategie voor de komende jaren. Een aantal prominente wetenschappers en topbestuurders uit het bedrijfsleven waarschuwden al verschillende keren voor een mogelijk uit de hand lopen van de ontwikkeling. Daardoor kunnen de kunstmatige intelligente systemen veel slimmer en sneller worden dan de mens. "Niemand wil verworden tot een huisdier. Niemand wil onder een despoot leven", verwoordde Elon Musk recent nog zijn zorgen.