Overslaan en naar de inhoud gaan

Liedje hackt intelligent agents als Siri, Alexa en Cortana

Systemen aangestuurd met spraak blijken een nieuw type achterdeur te bevatten. Door commando's te verwerken in liedjes kunnen ze opeens heel onverwachte dingen doen die niet altijd in het voordeel zijn van de eigenaar.
Amazon Echo
© Amazon
Amazon

Dat systemen met kunstmatige intelligentie om de tuin te leiden zijn, is al langer onderwerp van onderzoek. Zo zijn voorbeelden bekend waarbij stelselmatig verkeerde plaatjes worden aangeboden om het systeem te ontregelen. Daarbij worden pixels in de plaatjes veranderd waardoor deze een verborgen boodschap bevatten.

In een samenwerking van IBM en verschillende universiteiten in de VS en China is uitgezocht in hoeverre spraakgestuurde systemen vatbaar zijn voor misbruik. Ze slaagden erin liedjes te manipuleren waardoor de digitale assistenten in actie kwamen voor opdrachten als 'Okay Google, read mail' en 'Echo, open front door' of 'Echo, ask Capital One to make a credit card payment'.

Verandering niet hoorbaar

De onderzoekers startten met een willekeurig gekozen liedje en een opname van een spraakopdracht uit een text-to-speech systeem. Beiden werden vervolgens met de open source spraakherkenningssoftware Kaldi en een Deep Neural Network en een machine learning algoritme zo gematcht dat de uitkomst door de de spraakherkenningsoftware werd herkend als het gewenste commando, maar niet door een mens kon worden opgemerkt in het liedje. Het resultaat heeft voor de achteloze luisteraar hooguit een lichte ruis. De onderzoekers speelden de veranderde nummers vervolgens af met een JBL clip 2 speaker op een afstand van 1,5 meter van bijvoorbeeld een Amazon Echo met een succesratio van 60 tot 94 procent.

Ze stellen in hun artikel dat de nummers ook via de radio, tv of andere afspeelapparatuur kunnen worden gebruikt.

Reacties

Om een reactie achter te laten is een account vereist.

Inloggen Word abonnee

Bevestig jouw e-mailadres

We hebben de bevestigingsmail naar %email% gestuurd.

Geen bevestigingsmail ontvangen? Controleer je spam folder. Niet in de spam, klik dan hier om een account aan te maken.

Er is iets mis gegaan

Helaas konden we op dit moment geen account voor je aanmaken. Probeer het later nog eens.

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in

Maak een gratis account aan en geniet van alle voordelen:

Heb je al een account? Log in