Watson in de fout met behandeling kanker

"Dit product is a piece of s---", is de karakterisering die een van de doktoren van Jupiter Hospital geeft aan Watson. Het commentaar is onderdeel van interne documenten van IBM waarover Stat News bericht. IBM startte in 2012 samen met het Memorial Sloan Kettering Cancer Center in New York een project om Watson in te zetten bij het stellen van diagnoses en het suggereren van behandelingen voor kankerpatiënten.

Verwachtingen komen niet uit

De hoge verwachtingen ten aanzien van de hulp die Watson zou kunnen geven, blijken echter niet uit te komen. De supercomputer gaf regelmatig foute en zelfs gevaarlijke adviezen. Zo zou bij een patiënt met ernstige bloedingen het toedienen van een middel zijn geadviseerd dat de bloedingen alleen nog maar zou hebben verergerd.

Uit een presentatie van Andrew Norden die bij IBM verantwoordelijk was voor de inzet van Watson in de gezondheidszorg, blijkt dat er niet alleen veel onvrede was over de prestaties van Watson for Oncology, maar dat er ook nogal wat is aan te merken op de gang van zaken bij de training van Watson. Norden verliet IBM overigens niet lang na het geven van deze presentatie.

Foute training mogelijke oorzaak

Het was de bedoeling dat voor het trainen van Watson for Oncologie, het systeem zou worden gevoed met grote hoeveelheden data. Het idee was dat met kunstmatige intelligentie nieuwe inzichten naar boven zouden komen uit analyse van de gegevens. Volgens de presentatie van Norden werd het systeem echter niet gevoed met echte patiëntgegevens maar met hypothetische data die door slechts een handvol artsen waren aangeleverd. Daardoor werd het systeem afhankelijk van de behandelingsvoorkeuren van die artsen.

IBM is niet van plan het werk aan Watson for Oncology te staken. Het systeem leert nog steeds en heeft inmiddels advies gegeven bij de behandeling van 84.000 patiënten, zegt een IBM-woordvoerder tegen Gizmodo.