Google blokkeert onethisch ingezette AI-producten

Het zijn twee voorbeelden van hoe het bedrijf de eerder opgestelde principes voor een goed gebruik van AI toepast binnen de bedrijfsvoering, zegt senior director Rajen Sheth van de divisie cloud en artificial intelligence tijdens een persbijeenkomst op Google Next 2018 waar AG Connect bij aanwezig was.

Google maakte begin juni zeven principes bekend voor de ontwikkeling van kunstmatige intelligentie. “Die principes passen we ook toe op onze producten. We kunnen producten stopzetten als de technologie op een verkeerde manier wordt toegepast. Dat gaat over bewust verkeerd gebruik van de technologie. Ook onbewust kan de toepassing verkeerd gaan. Bijvoorbeeld in het geval van bias. Daar hebben we een gids voor ontwikkelt die dat ondervangt,” aldus Sheth.

Bepalend moment

Volgens Sheth zit de industrie op een bepalend moment als het gaat om de toepassing van machine learning. “De gemiddelde persoon komt ook in aanraking met de technologie. Maar wat nu geldt voor machine learning, gold jaren geleden voor het internet. Ook dat kon verkeerd worden gebruikt.”

Het goed en eerlijk toepassen van machine learning staat bij alle organisaties hoog op de agenda, merkt de senior director. “In alle gesprekken die we met executives van grote bedrijven hebben, komt dit onderwerp naar voren.” Chief scientist Fei-Fei Li voegt daaraan nog toe. “Het is goed om te zien dat onze klanten erkennen dat dit een belangrijk onderwerp is binnen dit onderzoeksveld. AI is een nieuw onderzoeksveld, slechts zestig jaar oud. Het is een reis die we maken, hoe passen we deze technologie het best toe. We kunnen niet zeggen dat we op deze reis geen fouten gaan maken.”

Zeven principes

De zeven principes die het bedrijf hanteert liggen voor de hand. Het bedrijf zegt de technologie in te zetten zodat het voordeel oplevert voor de maatschappij, het belooft oneerlijke bias te vermijden, de technologie wordt gebouwd en getest voor veiligheid, mensen moeten op de AI kunnen bouwen, privacy wordt gerespecteerd, hoge wetenschappelijke standaarden worden gehanteerd en de technologie wordt alleen beschikbaar gesteld voor gebruik dat aan deze principes voldoet.

Aanleiding voor het bekend maken van de principes was de ophef die intern bij Google was ontstaan over samenwerking met het Amerikaanse leger.