Zorgen over veiligheid genAI lijken de basis voor ontslag OpenAI-baas

In het bestuur was sprake van een tweedeling, waarbij Altman en bestuursvoorzitter en medeoprichter Greg Brockman, heel actief waren in het organiseren van een zo hoog mogelijk groeitempo. Zij hielden zich vooral bezig met het binnenhalen van investeerders en kozen voor een agressieve verkoopstrategie voor de technologie. Brockman nam overigens vrijdag direct zelf ontslag nadat de overige bestuursleden Altman aan de kant hadden gezet. 

Te commercieel

Altman zou de rest van de board veel te weinig op de hoogte houden van zijn activiteiten. Sutskever die bekend staat om zijn grote zorgen over de gevolgen van AI wanneer deze het punt bereikt dat menselijke intelligentie wordt geëvenaard (Artificial General Intelligence of AGI), vond dat Altman veel te commercieel te werk ging en steeds verder verwijderd raakte van de ideologische en non-profitbeginselen waarop het bedrijf was opgericht. OpenAI zou immers vooral op zoek gaan naar AGI om dat punt eerder te bereiken dan kwaadwillenden, en de gevaren van AGI in kaart te brengen zodat bijtijds tegenacties in gang gezet konden worden. De commerciële koers die OpenAI drie jaar na de oprichting in 2015 insloeg, wijkt steeds verder af van die ideologische doelen. 

Verschillende veiligheidsproblemen met GPT

Bovendien waren er steeds meer aanwijzingen dat ook de aandacht voor de veiligheid te lijden had onder de wens te innoveren. Zo werd er dit weekend nog een bug aangetroffen in de GPT's van OpenAI die leek op eerdere problemen die in maart aan het licht kwamen. Er zijn meer aanwijzingen gevonden die het mogelijk maken de 'vangrails' rond het gebruik van het genAI-gebaseerde taalmodel te omzeilen.

De commerciële, op groei en ontwikkeling gerichte koers en de meer voorzichtige non-profitkoers lijken nu tot een scheuring in het bedrijf te leiden. Zo hebben drie ervaren onderzoekers gelijk vrijdag ook hun ontslag ingediend en wordt gevreesd voor een verdere leegloop van het bedrijf dat de afgelopen jaren talent heeft geworven met hoge salarissen en  snelle groei. 

Taak van het bestuur

Gerenommeerd tech-journalist Kara Swisher heeft van een bron vernomen dat vooral Sutskever en extern bestuurslid Helen Toner van het Georgetown Center for Security and Emerging Technology buiten medeweten van het duo Altman en Brockman, de overige twee bestuursleden - Adam D’Angelo, CEO van Quora en technologie-ondernemer Tasha McCauley -  hebben overtuigd van het starten van de afzettingsprocedure. Volgens The Information heeft Sutskever ontkend dat het gaat om een coup. Hij zegt te begrijpen dat zo'n bewoording snel opkomt maar zegt dat het de taak is van het bestuur om ervoor te waken dat het werk van OpenAI aan generatieve AI ten goede komt aan de hele samenleving. Hij betreurt dat daarvoor 'achterkamergesprekken' nodig waren. 

De spreekwoordelijke druppel die vrijdag vermoedelijk de emmer deed overlopen bij het bestuur was dat Altman en Brockman een financieringsronde van maar liefst 90 miljard dollar hadden uitgezet. 

Nieuwe rol voor Musk bij OpenAI?

Ashlee Vance van de financiële nieuwssite Bloomberg zegt zelfs aanwijzingen te hebben op sociaal netwerk Bluesky  dat Elon Musk zich heeft opgeworpen als nieuwe CEO van OpenAI. Musk was betrokken bij de oprichting van OpenAI in 2015 omdat ook hij vreest voor de negatieve gevolgen als kunstmatige intelligentie eenmaal die van de mens evenaart. Musk verbrak echter de banden met OpenAI toen in 2018 de commerciële richting die het bedrijf insloeg, de ideologische doelen van de non-profitorganisatie in gevaar bracht. Begin dit jaar werd duidelijk dat Musk aan een eigen gespecialiseerd AI-bedrijf werkt.

Inmiddels is bekend geworden dat Sam Altman in dienst treedt bij Microsoft.