Google geeft experimentele chatbot vrij onder voorwaarden

Google volgt daarmee Meta - het moederbedrijf van onder meer Facebook - dat enkele weken geleden Blenderbot3 openstelde voor het grote publiek, signaleert ZDNet. Beide bedrijven zijn beducht voor het debacle met Microsofts chatbot Tay in 2016 die binnen de kortste keren racistische taal uitsloeg. Het gebruik van de AI Test Kitchen is dan ook aan voorwaarden gebonden, waarbij Google het verst gaat.

Eigenlijk is AI Test Kitchen een serie demo's waar de gebruiker doorheen geleid wordt. Bij de eerste moet de gebruiker een plaatsnaam noemen, waarbij de bot vervolgens een aantal opties biedt 'om je inbeeldingsvermogen te ontdekken'. In de tweede demo kan de gebruiker doel of een onderwerp delen, waarbij het achterliggende taalmodel het hoofddoel of onderwerp opdeelt in een aantal subtaken of onderwerpen. In de derde demo kan daadwerkelijk een 'vrije' conversatie met de bot worden gevoerd, maar die is wel strikt beperkt tot het onderwerp honden. Daarbij is LaMDA zo getraind dat het gesprek steeds teruggestuurd wordt naar het gesprek over honden, ongeacht welke zijpaden de gebruiker kiest.

Leerproces voor maker en gebruiker

Zowel Google als Meta waarschuwen gebruikers dat het een experimentele bot is en dat het risico bestaat dat de bot onware of onbehoorlijke antwoorden geeft. Beide bots zijn voorzien van mechanismen die het Tay-debacle moeten voorkomen. Zo is bijvoorbeeld Googles AI Test Kitchen op dit punt uitgebreid uit de tent gelokt met geautomatiseerde testruns en een 'red team' dat de opdracht kreeg het model zo veel mogelijk onder druk te zetten.

Het doel van het openstellen voor een groter publiek is tweeledig. Enerzijds kunnen mensen een beter idee krijgen van wat mogelijk is met de huidige taalmodellen. Aan de andere kant helpt het de teams die werken aan deze taalmodellen de technologie verder te verbeteren. Zo hebben de taalmodellen nog altijd moeite om onderscheid te maken tussen oprechte en gemeen bedoelde opmerkingen van de menselijke gebruiker. Ook komen in grootschalige publieke tests pas de zwakheden van zo'n model naar voren als het gaat om het antwoorden met onaardige en onfatsoenlijke reacties die het gevolg zijn van een verkeerde inschatting van het geslacht of culturele achtergrond van de gebruiker.

Nog geen wereldwijde beschikbaarheid

Googles AI Test Kitchen is nu beschikbaar als Android-app voor een beperkte groep mensen die zich daarvoor moeten aanmelden bij een wachtlijst. Bovendien kunnen voorlopig alleen mensen in de VS zich aanmelden. Een iOS-app komt binnen enkele weken, belooft Google. Ook Meta's Blenderbot3 is op dit moment nog alleen beschikbaar in de VS.