AI-pionier vertrokken bij Google, waarschuwt nu voor gevaren AI

Hinton werkte al in 1972 aan neurale netwerken, iets waar destijds nog weinig wetenschappers in geloofden. Hinton deed dat wel en maakte er zijn levenswerk van. En dat bleek succesvol: veel van de huidige revolutionaire AI-systemen gebruiken neurale netwerken. In 2018 kreeg de wetenschapper samen met twee collega's de Turing Award, een belangrijke IT-prijs, voor zijn werk aan neurale netwerken.

Maar er zijn ook zorgen onder wetenschappers over de huidige AI-systemen, die Hinton nu zegt te delen. Hij werkte ruim tien jaar bij Google aan AI, maar diende vorige maand zijn ontslag in. Pas nu hij daar weg is, kan hij zich uitspreken over zijn zorgen, zo vertelt hij aan The New York Times. 

Heel snelle ontwikkeling

Een directe aanleiding voor de zorgen van Hinton, is de enorme concurrentiestrijd van de afgelopen maanden. Volgens de wetenschapper was Google lange tijd voorzichtig met AI en zorgde het bedrijf ervoor dat er niets werd uitgebracht dat mogelijk schadelijk zou zijn. Maar in februari kondigde Microsoft aan dat de Bing-zoekmachine ondersteund zou worden door een ChatGPT-chatbot. Dat was een dreiging voor Google, waarop Google zelf hard aan de slag ging om eenzelfde technologie in te zetten.

Dat de ontwikkelingen nu zo snel gaan, vindt Hinton gevaarlijk. "Kijk naar hoe het vijf jaar geleden was en hoe we er nu voor staan. Kijk naar dat verschil en propageer dat naar de toekomst. Dat is eng." Hij is bijvoorbeeld bang dat het internet straks vol staat met neppe foto's, video's en teksten, waardoor de gemiddelde persoon niet meer weet wat echt is en wat niet. Daarnaast maakt Hinton zich zorgen dat AI talloze banen laat verdwijnen.

Dreiging voor de mensheid?

De wetenschapper is zelfs bang dat toekomstige versies van AI een dreiging kunnen vormen voor de mensheid. Dergelijke systemen zouden regelmatig onverwacht gedrag aanleren aan de hand van de grote hoeveelheden data die ze analyseren. Mochten AI-systemen in de toekomst niet alleen programmeercode genereren, maar die code ook zelfstandig gaan draaien, dan kan dat gevaarlijk zijn, denkt Hinton. Ook is hij bang dat er échte autonome wapens komen. 

"Een paar mensen geloofden dat dit spul daadwerkelijk slimmer kon worden dan mensen. Maar de meesten dachten dat dat nog heel ver weg was. Dat dacht ik ook. Ik dacht dat het nog wel 30 tot 50 jaar zou duren. Maar dat denk ik nu niet meer."

Hinton is overigens niet de enige die zich zorgen maakt over de ontwikkeling van AI. Ruim duizend wetenschappers ondertekenden in maart een open brief waarin gepleit wordt voor een pauze van minimaal een half jaar bij de ontwikkeling van nieuwe, krachtigere AI-modellen dan GPT-4. Ook deze wetenschappers zijn bang voor risico's voor de mensheid als gevolg van de steeds betere systemen. Hinton ondertekende de brief niet, naar eigen zeggen omdat hij toen nog bij Google werkte en zich hier toen nog niet over kon uitlaten.