OpenAI sluit ChatGPT-accounts om misbruik, door vermeende Iraanse campagne

OpenAI brengt de groep ChatGPT-accounts in verband met een geheime Iraanse campagne waar Microsoft eerder voor waarschuwde, Storm-2035. Die zette een aantal nieuwswebsites op, waarvan een deel was gericht op progressieve lezers en een ander deel op conservatieve Amerikanen.

'Geen groot bereik'

Naast het gebruik van kunstmatige intelligentie (AI) voor langere online-artikelen, zegt OpenAI dat Storm-2035 ChatGPT ook gebruikte om reacties op sociale media mee te bedenken. Volgens OpenAI zijn er geen aanwijzingen dat de nieuwsberichten en reacties een groot publiek hebben bereikt.

De berichten gingen niet alleen over de Amerikaanse presidentsverkiezingen, maar ook over de oorlog in Gaza en Israëlische sporters op de Olympische Spelen. Daarnaast maakte de beïnvloedingscampagne artikelen over apolitieke onderwerpen zoals mode. Mogelijk waren die bedoeld om op een echte nieuwssite te lijken of meer volgers te krijgen.

AI-geschreven teksten

ChatGPT kan in korte tijd teksten genereren die door mensen lijken geschreven, op basis van enkele simpele opdrachten. Onlangs vond Facebook enkele honderden accounts die nepnieuws verspreidden, waarbij een deel met AI-software was gegenereerd. Die accounts werden gelinkt aan Iran, Rusland en China.

Afgelopen week meldde Google dat een aan Iran gelinkte groep cybercriminelen probeert in te breken op accounts van personen rond Trump en de voormalige presidentskandidaat Joe Biden. Het gaat dan vooral om phishing, waarbij ze bijvoorbeeld via links in e-mails of bestanden toegang proberen te krijgen tot persoonlijke informatie. Bij een vooraanstaande adviseur lukte het deze groep om in te breken in een Gmail-account.