Musk wil nu echt overheidstoezicht op AI-ontwikkeling

De auteur van het artikel in MIT Technology Review, Karen Hao, kondigde de publicatie van dit artikel aan op Twitter. Daarop antwoordde Musk direct dat in zijn idee OpenAI ook meer open moet zijn en dat alle organisaties die geavanceerde AI ontwikkelen onder regulering zouden moeten vallen inclusief Tesla.

Volgens Hao - die gedurende een half jaar bijna veertig interviews deed met werknemers van OpenAI, voormalig werknemers en anderen rond het initiatief - is er een groot verschil tussen wat de organisatie naar buiten toe beweerd en wat zich werkelijk achter gesloten deuren afspeelt.

De heilige graal van OpenAI is de eerste te zijn die een AGI bouwt, een machine die kan leren en redeneren als een mens. Het nobele doel is om voorop te lopen in die ontwikkeling en de resultaten te delen met de hele wereld zodat niemand de technologie exclusief kan exploiteren of misbruiken. De organisatie is opgezet als een non-profit en draait vooral op donaties. Afgelopen juli stak Microsoft nog 1 miljard dollar in OpenAI. Overigens heeft OpenAI het nonprofit-karakter inmiddels afgeschud.

Obsessief geheimen bewaren

Uit het onderzoek van Hoa komt een beeld dat OpenAI juist obsessief is in het bewaren van geheimen en het regelen van nieuwe financiering. Daarvoor ligt een belangrijk accent op het bouwen aan de juiste uitstraling naar buiten toe. De idealen die werden neergelegd in 2015 zoals transparantie en samenwerking zijn ver te zoeken.

Een voorbeeld daarvan kwam een jaar gelden toen OpenAI naar buiten kwam met de mededeling een model te hebben ontwikkeld dat te gevaarlijk was om vrij te geven. De GPT-2 kon met de druk op de knop overtuigende nepnieuws-artikelen produceren. Later bleek het vooral een publiciteitsstunt. In mei koos OpenAI toch voor een gespreide publicatie van het model, waarvan uiteindelijk ook OpenAI concludeerde dat het nergens werd misbruikt.