'Amerikaanse toezichthouder gaat OpenAI doorlichten'

Zo vraagt de FTC (Federal Trade Commission) aan OpenAI om gedetailleerde beschrijvingen te geven van klachten die het bedrijf heeft ontvangen. Bijvoorbeeld na "valse, misleidende, kleinerende of schadelijke" uitspraken over mensen door ChatGPT. Dat staat in een twintig pagina’s tellend verzoek van de toezichthouder dat deze week naar OpenAI is gestuurd, aldus de Washington Post. Dit is slechts één van de vele juridische problemen voor OpenAI, dat in een collectieve schadeclaim wordt beschuldigd van massale schending van intellectueel eigendom én privacy, plus in een zeer recente aanklacht wordt beschuldigd van auteursrechteninbreuk. Die eerste zaak draait om posts op sociale media, blogposts op websites, informatie op Wikipedia en berichten met bijvoorbeeld familierecepten. Die tweede zaak draait om boeken van auteurs waaronder comédienne Sarah Silverman.

Beschuldigd van seksuele intimidatie

De FTC gooit het nu over een hele andere boeg, schrijft The Washington Post. Namelijk die van reputatieschending voor individuen die dan zou zijn veroorzaakt door output van AI-chatbot ChatGPT. In een hoorzitting voor het Amerikaanse Congres zijn daar al concrete voorbeelden van gegeven. Expert Gary Marcus, gepensioneerd hoogleraar in de psychologie en neurowetenschappen aan de New York University, heeft er toen in mei op gewezen dat AI-chatbots mensen kunnen misleiden. Hij noemde als praktijkgevallen hoe ChatGPT een geval van seksuele intimidatie verzon en daarbij een echt bestaande professor als dader noemde.

Daarnaast gaf Marcus als voorbeelden hoe Snapchats AI een schijnbaar dertienjarig meisje adviseerde om tegen haar ouders te liegen over een ontmoeting met een 31-jarige man. Dat minderjarige meisje was echter fictief; als account aangemaakt door de AI- en mens-kritische onderzoeker Aza Raskin. In diezelfde hoorzitting heeft OpenAI-topman Sam Altman verklaart dat hij graag regelgeving vanuit de overheid wil voor de snel ontwikkelende technologie van AI (kunstmatige intelligentie). Tegelijkertijd heeft zijn bedrijf zich echter met boude uitspraken en met lobbywerk verzet tegen al te strenge AI-regulering in de Europese Unie.

Beveiligingsincident van maart

Verder vraagt de FTC nu bij OpenAI ook naar informatie over een beveiligingsincident dat het AI-bedrijf in maart heeft bekendgemaakt. Door een bug in het systeem konden sommige gebruikers toen onder meer de chatgeschiedenis van anderen bekijken. OpenAI heeft al aangegeven dat het aantal mensen dat hier iets van merkte "extreem laag" was. De vraag is daarbij wel hoeveel dat dan is, gezien het feit dat ChatGPT in korte tijd miljoenen gebruikers heeft weten aan te trekken. Daarnaast kan het aantal getroffen mensen juridisch gezien misschien niet zo zwaar wegen.

Mocht de Amerikaanse toezichthouder voor het bedrijfsleven constateren dat OpenAI regels overtreedt, dan kunnen boetes volgen. Zo legde de FTC eerder al boetes op aan Facebook-moeder Meta Platforms, webwinkelconcern Amazon en social network Twitter.