Overslaan en naar de inhoud gaan

Google bouwt dodemansknop voor kunstmatige intelligentie

De onderzoekers bij Google Deep mind hebben hun gedachten daarover opgeschreven in een wetenschappelijk artikel (pdf) dat is gepubliceerd op de website van het Machine Intelligence Research Institute (MIRI). Dit Amerikaanse instituut is opgericht om er voor te waken dat de ontwikkeling van kunstmatige intelligentie een positief effect heeft op de samenleving.
stop
© CC0
CC0

In het artikel gaan de onderzoekers van Google DeepMind in op het vraagstuk dat ontwikkelaars van kunstmatige intelligentie weliswaar een rode stopknop in hun ontwerpen kunnen inbouwen, maar dat de situatie kan ontstaan dat het systeem zelf de werking van die stopknop ongedaan kan maken.

Zijn de maatregelen voldoende?

In een wiskundig onderbouwd betoog laten zij zien hoe kan worden voorkomen dat een intelligent systeem leert het ingrijpen door een operator tegen te werken. Ze noemen een aantal voorbeelden van algoritmen die zo op een veilige manier kunnen worden gestopt. Ze plaatsen er wel de kanttekening bij met de vraag of die methode bij alle algoritmen kan worden toegepast. Een tweede mogelijke oplossing is dat er periodieke stops worden ingebouwd, bijvoorbeeld elke nacht gedurende een uur. Dan moet wel iets worden geregeld dat de reguliere taken die het algoritme uitvoert, zo min mogelijk hinder ondervinden van de periodieke stops.

Google DeepMind is het Britse bedrijf dat Google in 2014 overnam. Google heeft de ontwikkeling van kunstmatige intelligentie een belangrijke plek gegeven in de bedrijfsstrategie voor de komende jaren. Een aantal prominente wetenschappers en topbestuurders uit het bedrijfsleven waarschuwden al verschillende keren voor een mogelijk uit de hand lopen van de ontwikkeling. Daardoor kunnen de kunstmatige intelligente systemen veel slimmer en sneller worden dan de mens. "Niemand wil verworden tot een huisdier. Niemand wil onder een despoot leven", verwoordde Elon Musk recent nog zijn zorgen.

Gerelateerde artikelen
Gerelateerde artikelen

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in