ChatGPT als digitale speurneus is er bijna
Is ChatGPT een digitale speurneus voor rechercheurs? Nog steeds niet maar we zijn er bijna, ziet Hans Henseler. Vorig jaar concludeerde hij al wel dat het een slimme assistent voor rechercheurs kon worden. Dat is gedeeltelijk al gelukt maar de uitdaging is nog om dit on-premises te doen en niet afhankelijk te zijn van een groot taalmodel in de BigTech-cloud.
Begin 2023 stond de wereld versteld van ChatGPT 3, een deep neuraal netwerk met 170 miljard parameters. Nu, een jaar later, hebben we niet alleen veel betere modellen zoals ChatGPT 4 Turbo, maar blijkt ook dat we met die grote modellen synthetische data kunnen genereren waarmee we kleine modellen met 7 miljard of zelfs minder parameters kunnen trainen die net zo goed of zelfs beter zijn dan de versie van ChatGPT die we vorig jaar gebruikten (zie kader klein maar fijn). Kleine modellen zijn sneller en vereisen veel minder hardware. Daarmee is een belangrijk bezwaar tegen ChatGPT, namelijk dat de gebruiker zijn gegevens moet delen met de cloud van OpenAI, verholpen.