AI-model van grootste Amerikaanse zorgverzekeraar maakt veel grote fouten

De website haalt die informatie uit een zaak die deze week werd ingediend bij de Amerikaanse arrondissementsrechtbank voor het district Minnesota. Het AI-model, dat vanaf 2019 werd ingezet, schuift oordelen van artsen aan de kant en weigert ten onrechte cruciale gezondheidszorgdekking aan oudere patiënten. Dit heeft volgens de website ertoe geleid dat patiënten veel te vroeg uit revalidatieprogramma's en zorginstellingen worden gezet, waardoor ze gedwongen zijn spaargeld op te offeren om benodigde zorg te krijgen.

De rechtszaak werd aangespannen door nabestaanden van twee overleden mensen aan wie door UnitedHealth geen gezondheidszorgdekking verleende. In de gehele VS zouden er mogelijk tienduizenden soortgelijke gevallen zijn. De zaak komt boven op een eerder onderzoek van de Amerikaanse gezondheidsgerichte nieuwswebsite Stat News, dat interne documenten en communicatie van UnitedHealth in handen heeft die de claims grotendeels ondersteunen.

Bij dat onderzoek zijn ook interviews met voormalige werknemers gehouden. Daar zitten ook werknemers van NaviHealth bij, de dochteronderneming die het AI-algoritme nH Predict ontwikkelde.

nH Predict

nH Predict wordt door UnitedHealth momenteel nog altijd gebruikt. Het algoritme schat hoeveel zorg een patiënt met een Medicare Advantage Plan, dat gefinancierd wordt door de overheid, nodig heeft na een acuut letsel, ziekte of gebeurtenis, zoals een val of een beroerte. Het gaat om therapie en thuiszorg.

De werking van het algoritme, dat schattingen maakt op basis van data van 6 miljoen patiënten, is onduidelijk. Het voorspelt onder meer medische behoeften en een ontslagdatum. Onderzoekers van Stat News schrijven dat de schattingen erg streng zijn. Patiënten die normaal gesproken 100 dagen gedekte zorg ontvangen, krijgen nu nog zelden meer dan 14 dagen voordat UnitedHealth betaling weigert.