ChatGPT-detector in de maak, door ChatGPT-maker OpenAI

De makers van de nu geruchtmakende AI die teksten kan schrijven, vragen kan antwoorden en software kan schrijven werkt aan 'beperkende maatregelen'. Deze zogenoemde mitigations moeten duidelijk maken waar en wanneer ChatGPT is ingezet. Ongeacht of dat nu door luie studenten, goedgelovige leken, overwerkte developers, bezuinigende managers of andere eindgebruikers wordt gedaan.

AI-inzet en wapenwedloop?

De ontwikkeling van herkenningsmiddelen voor ChatGPT-gegenereerde output is medegedeeld aan de Amerikaanse technieuwssite TechCrunch. Overigens zonder details over de beoogde werking ervan, laat staan de mogelijke releasetiming van deze detectiemogelijkheden. TechCrunch heeft eerder al wel weten te melden dat OpenAI experimenteert met een technologie om tekst van ChatGPT te voorzien van een watermerk. Daarmee valt dan te zien dat het output van deze AI-tool is.

Gebruikers die om wat voor reden dan ook hun AI-inzet willen verhullen, zal er veel aan gelegen zijn om zo'n watermerk te verwijderen of te omzeilen. De ontwikkeling van software om teksten van ChatGPT te detecteren, kan een krachtig tegenmiddel zijn. OpenAI benadrukt dat zijn huidige aanpak met ChatGPT nog is om te leren en de krachtige AI-tool door te ontwikkelen. De publieke beschikbaarheid is dan ook om uit de echte wereld input en feedback te krijgen.

Is ChatGPT nou zo slim?

ChatGPT heeft wereldwijd indruk gewekt met antwoorden op vragen, artikelen in opdracht van eindgebruikers en softwarecode op basis van tekstuele instructies. Daarbij weet deze AI-software overtuigende output te geven, die soms zeer overtuigend is maar soms bij nadere beschouwing tekort schiet. Zo weet ChatGPT in welluidende taal eloquente formuleringen te bezigen over bepaalde onderwerpen die dan voor leken op zo'n gebied indrukwekkend kunnen zijn.

In sommige gevallen kan ChatGPT dus dommer zijn dan je denkt. In andere gevallen kan de AI-tool goed dienst doen, of goed genoeg. Zoals voor bijvoorbeeld essay-schrijfopdrachten die studenten dan in recordtijd kunnen laten maken. Aan de andere kant zijn tools als ChatGPT ook goed te gebruiken door docenten, bijvoorbeeld om vlot voorbeelden te laten genereren.