Google waarschuwt voor misleidende AI-zoekresultaten

Google zelf zet ook AI in voor search, maar claimt met zijn zelfontwikkelde AI 'Bard' betrouwbaardere output te geven. Vice-president Prabhakar Raghavan van Google vertelt aan de Duitse krant Welt am Sonntag dat het bedrijf de urgentie voelde om Bard publiekelijk beschikbaar te stellen. Raghavan is verantwoordelijk voor Googles kernproduct Search maar ook voor de AI-gedreven Google Assistant en voor commerciële melkkoeien Google Ads, Google Commerce en Google Payments.

Zorg om hallucinaties van AI's

Volgens de topman is het grote internetbedrijf nu aan het overwegen hoe het Bard goed kan integreren met Google Search. De accuraatheid en betrouwbaarheid van zoekresultaten is daarbij cruciaal, zo stelt hij. AI-chatbots kunnen namelijk overtuigende, maar verkeerde antwoorden geven op vragen en zoekopdrachten.

Deze kritiek op AI-toepassingen, zoals die nu furore maken, is niet simpelweg een afwijzende reactie van een gevestigde, marktdominante partij. Het gaat verder dan het zaaien van FUD (fear, uncertainty, doubt) over een opdoemende concurrent of bedreiging. Kenners op bepaalde vakgebieden kunnen in antwoorden van ChatGPT nogal eens lacunes, valse redeneringen en zelfs fouten waarnemen. De voor veel mensen verrassende - en ook wel overtuigende - vermogens van ChatGPT kunnen zelfs hallucinair zijn; de AI kan zelf dingen volledig verzinnen. De Nederlandse startup Zeta Alpha werkt eraan om dat hallucineren aan banden te leggen.

Google blundert met Bard

Ondertussen heeft Google zelf al een forse, feitelijke fout gemaakt met zijn Bard. Die AI-chatbot heeft in de eerste publieke demonstratie ten onrechte gesteld dat de James Webb Space-telescoop de eerste foto's van een planeet buiten ons zonnestelsel heeft genomen. In werkelijkheid is dat echter al gedaan in 2004, ruim voor de lancering van de James Webb-telescoop eind 2021.

Deze AI-blunder van Google heeft het bedrijf volgens Time 100 miljard dollar gekost, aan beurswaarde. Diverse experts waarschuwen dat dit soort fouten voor veel meer problemen kunnen zorgen, voor veel meer bedrijven dan alleen AI-aanbieders zoals Google en Microsoft. Topman Raghavan van huidige search-reus Google is dus zeker geen roepende in de woestijn.