AI is als die dronken oom op een verjaardag

Ineens besefte ik het: van de rails gaande AI-chatbots zijn als het cliché van die dronken oom op een verjaardag! Best oké voor een kort gesprek, waarbij je de geleverde output met een korreltje zout moet nemen. Maar minder oké voor langere gesprekken, die je op tijd moet afkappen dus. Alleen is dat niet echt een oplossing natuurlijk.

Jasper BakkerredacteurMeer van deze auteur

'Laat maar kletsen' is namelijk een houding die op een enkele verjaardag wel een houdbare benadering kan zijn. Maar in het geval van de 'digitale dronken oom' nu hebben we het over een wereldwijd publiek, met opgezweepte verwachtingen. Verwachtingen die eigenlijk enigszins misplaatst zijn. Maar toch verwachtingen die een hoge status kunnen hebben. Voor veel mensen zijn computers nu eenmaal dingen die geen fouten kunnen maken, zo denken ze helaas vaak. Terwijl diezelfde mensen best goed wéten dat pc's en smartphones vastlopen, bugs hebben, gereboot moeten worden.

Nieuwe vaardigheid: 'AI-wijsheid'

"Dat hèp gestaan op Feesboek", is een beroemde Nederlandse uitspraak die in wezen gaat over mediawijsheid, desinformatie en verwachtingen. Stel je nu eens zo'n zelfde soort uitspraak voor maar dan afkomstig van een AI-chatbot. "Dat is gezegd door de kompjoeter", als onderbouwing of zelfs rechtvaardiging voor bepaalde ideeën, overtuigingen of handelingen. Net zoals mediawijsheid tegenwoordig een essentiële vaardigheid is, zou 'AI-wijsheid' dat ook moeten worden. Want het risico van zelfbevestiging of radicalisering ligt op de loer.

Deze problematiek speelt al bij gewone, AI-loze zoekmachines. Daar vallen ook de gekste dingen terug te vinden en schijnbaar bevestigd te krijgen. Zoekopdrachten die je laat beginnen met 'Alle [bepaalde personen]' gevolgd door een werkwoord kunnen de vreemdste aanvullingen krijgen. Dat zijn dan suggesties die de zoekmachine voor je doet. Tegenwoordig zijn de ergste uitwassen aan banden gelegd. Zulke zinnen met bepaalde religieuze groepen mensen worden sinds een tijdje níet meer aangevuld. Of hoogstens voorzien van neutrale suggesties.

Zelflerend risico

AI-chatbots blijken nog lang niet zo ver te zijn. En qua zelflerend vermogen ligt er natuurlijk altijd evolutie naar bepaalde uitwassen op de loer. Zie niet alleen de feitelijke fouten die Googles Bard en Microsofts Bing Chat (of: BingGPT) recent hebben gemaakt. Zie ook de vele recente voorbeelden van hallucinaire houdingen, bizarre beweringen en ronduit recalcitrante replieken die de zo bejubelde AI's geven in gesprekken met mensen. Microsoft heeft zijn Bing Chat nu ingeperkt, met als uitleg dat zeer lange gesprekken die AI in de war kunnen brengen. Maar is dat niet als het afkappen van die dronken oom op een verjaardag? Die gaat de volgende keer gewoon weer verder, met het spuien van informatie waar je zákken zout voor nodig hebt. Als je dat al beseft dus.

PS Wie weet er nog hoe het is gegaan met Microsoft Tay?