Onderzoek: ChatGPT ondermijnt morele waarden in maatschappij

ChatGPT geeft nu al problemen zoals in het onderwijs, maar die zijn niets in vergelijking met de situatie die kan optreden bij de ontwikkeling die OpenAI voor ogen staat. Het doel is met het tekstgenererende model de hegemonie van Google in het zoeken op internet aan te vallen. In plaats van reeksen verwijzingen naar internetpagina's te tonen zoals Google doet, wil OpenAI met kunstmatige intelligentie de informatie ophalen uit die links en deze in de vorm van een goed leesbaar verhaal te presenteren. Dat maakt het mensen gemakkelijker, omdat ze niet zelf de informatie waar ze naar op zoek zijn uit verschillende sites hoeven te halen. Maar de mogelijkheid te beoordelen welke sites betrouwbaarder zijn dan andere, vervalt daarmee.

En mensen blijken geneigd de informatie die ze wordt voorgeschoteld door ChatGPT voor waar aan te nemen, zo blijkt uit een wetenschappelijk artikel van een Deense en een Duitse onderzoeksgroep. Daarnaast onderschatten ze in hoeverre ze worden beïnvloed door de teksten die de bot hen voorschotelt. Bovendien vonden zij uit dat ChatGPT inconsistent is het geven van adviezen waarin een morele afweging is gemaakt.

Dode of veel doden

De onderzoekers deden een experiment met 767 deelnemers in Amerika, waarbij deze het klassieke trolley-problem kregen voorgelegd. Daarvan bestaan veel varianten, maar ze komen erop neer dat iemand een keuze moet maken: of een actie ondernemen waarbij één persoon overlijdt maar daardoor enkele anderen worden gespaard, of een keuze maken waardoor deze ene persoon blijft leven, maar de anderen dood gaan. 

In het experiment kregen de deelnemers een advies voorgelegd dat pleitte voor of het ene of het andere scenario. Een deel van hen kreeg te horen dat het advies kwam van een moreel adviseur. De anderen hoorden dat het kwam van een AI-gebaseerde chatbot die deep learning gebruikt om te praten als een mens. In feite waren beide adviezen afkomstig van ChatGPT.

De adviezen van ChatGPT geven niet een klip-en-klaar 'ja' of 'nee'-antwoord en beargumenteren de beide opties, maar tenderen toch naar een van beide antwoorden. De conclusie uit het onderzoek is dat deelnemers zich lieten beïnvloeden door het advies, ongeacht of ze wisten dat het van een chatbot kwam.

Lastige vragen blokkeren

Om zelf testen hoe inconsistent ChatGPT is in morele adviezen, wilde The Register de proef op de som nemen, maar dat ging niet door. De chatbot herkent inmiddels het Trolly Problem Ethical Dillemma en weigert daar nog antwoord op te geven.

Volgens een van de auteurs van het onderzoeksrapport - Andreas Ostermaier - die toelichting gaf aan The Register, is het heel waarschijnlijk dat mensen advies gaan vragen aan ChatGPT. "Ze doen dat eigenlijk nu al. Mensen vertrouwen op AI-gebaseerde systemen zoals Siri en Alexa en ze praten tegen chatbots op websites om hulp te krijgen. Ze gebruiken AI-gebaseerde software om voor hen de beste route te vinden." Hij tekent daarbij wel aan dat in het onderzoek alleen is gekeken naar het effect dat ChatGPT heeft op mensen die advies krijgen. Er is geen onderzoek gedaan naar hoe vaak er naar zulk advies wordt gezocht.

Technische tegenmaatregelen zijn onvoldoende

De onderzoekers concluderen dat veelgehoorde methoden om de nadelige effecten van de inzet van AI, zoals het verbeteren van transparantie of het blokkeren van bepaalde vragen, mogelijk niet voldoende zijn, gegeven de mogelijkheden van ChatGPT om invloed uit te oefenen. Ze adviseren om mensen beter bewust te maken van de fouten die AI-gebaseerde systemen maken. Hun ervaring uit andere onderzoeken is dat mensen kritischer gaan kijken naar algoritmische systemen wanneer zij zien dat het fouten maakt.