Ook Microsoft-topman waarschuwt voor gevaren AI

"Ik ben ervan overtuigd dat AI door kwaadaardige actoren gebruikt gaat worden en dat het echte schade gaat aanrichten", zo schrijft Bloomberg op uit de mond van Schwarz. Hij deed zijn uitspraken tijdens een panel van het World Economic Forum in Geneve. Als voorbeeld noemt hij spammers tijdens verkiezingen.

"Zodra we die schade zien, moeten we ons de eenvoudige vraag stellen: 'Kunnen we dit op zo'n manier reguleren dat de goede dingen die daardoor voorkomen worden, minder belangrijk zijn?' Het principe moet zijn dat de voordelen van regulatie voor onze maatschappij groter zijn dan wat het ons kost." Ook vindt Schwarz dat AI-trainingsets niet direct gereguleerd moeten worden. "Dat zou dramatisch zijn. Als het Congress zulke beslissingen moet maken over trainingssets, wens ik ons heel veel succes."

Meer kritiek van anderen

Schwarz is niet de enige die waarschuwt over AI en de bijbehorende risico's. Eerder deze week uitte ook AI-pionier Geoffrey Hinton zijn zorgen over de snelle ontwikkeling van AI. Hij is bang voor een vloedgolf aan neppe content op het internet, waardoor mensen niet meer weten wat echt is en wat niet. Ook maakt hij zich zorgen over de potentiële komst van echte autonome wapens en het risico dat AI slimmer wordt dan mensen. 

In maart verscheen bovendien een open brief, waarin gepleit wordt voor een pauze van minimaal een half jaar in de ontwikkeling van nieuwe, krachtigere AI-modellen. De brief werd ondertekend door ruim duizend wetenschappers, die bang zijn voor risico's voor de mensheid als gevolg van deze systemen. 

Microsoft is zelf juist erg actief bezig met AI. In maart werd bijvoorbeeld ChatGPT toegevoegd aan de Bing-zoekmachine. Maar volgens Schwarz werkt het bedrijf ook aan het opzetten van maatregelen om potentiële gevaren tegen te gaan. En hij ziet ook voordelen aan AI: het zou mensen productiever kunnen maken. "Het geeft ons als mensheid voordelen, omdat we meer kunnen produceren met minder werk."