OpenAI-onderzoekers waarschuwden board voor gevaar brisante ontdekking

De brief is waarschijnlijk een voorbeeld van een mededeling die het bestuur graag in een eerder stadium van Altman had willen horen. Gebrek aan transparantie was een van de redenen waarom het oude bestuur Altman weg wilde hebben. Altman werd overigens dinsdag opnieuw tot CEO benoemd en het oude bestuur ruimde het veld. 

Brisante ontdekking

De AI-modellen waar OpenAI tot nog toe furore mee maakte, zijn heel goed in taalverwerking door via statistische methoden het meest logische volgende woord in een zin te bepalen. Maar taal is redelijk flexibel, er zijn meer manieren om antwoord te geven op een vraag. In de wiskunde is echter maar één antwoord juist. Het team dat werkte aan Q* legt uit in de brief aan de board dat het Q*-model in staat is wiskundige probleemstellingen goed op te lossen. Zij zien het zelf als een zeer belangrijke doorbraak richting Artificial General Intelligence (AGI) ofwel zoals OpenAI het heeft gedefinieerd: het punt dat autonome systemen beter zijn in economisch waardevolle taken dan mensen.

Q* zou nu nog pas in staat zijn tot maken van wiskundeopgaven van het niveau van de middelbare school, maar volgens het team is de ontwikkeling veelbelovend voor een snelle verbetering. Dat betekent dat er zowel voordelen als potentiële gevaren ontstaan. Een nadere toelichting welke aspecten in die brief staan, wilden de bronnen van Reuters niet geven. 

Er bestaat al langer discussie over het bereiken van kunstmatige algemene intelligentie en de potentiële risico's voor de maatschappij, in het meest extreme geval het verdwijnen van de mensheid.