‘Gebruikskosten LLM’s dalen jaarlijks met een factor 10’
De kosten om large language models (LLM’s) te gebruiken, dalen fors en blijven dat ook doen. Die conclusie trekt Bain & Company op basis van eigen onderzoek. Het bedrijf verwijst naar de opkomst van DeepSeek, de Chinese AI-hulp die de industrie verraste met geclaimde lage kosten.
Die lage kosten van DeepSeek staan niet op zichzelf, stelt Bain & Company. Het bedrijf stelt dat de prijzen van de goedkoopste LLM’s sinds 2022 met een factor tien per jaar gedaald zijn. Sommige LLM’s zijn zelfs met een factor veertig per jaar goedkoper geworden. Het bedrijf haalt GPT-3 van OpenAI aan, dat in 2022 nog 60 dollar per miljoen tokens gekost zou hebben. Tegenwoordig zijn er verschillende AI-modellen die functioneren voor minder dan 5 cent per miljoen tokens.
Niet alleen de AI-modellen van OpenAI zijn de afgelopen jaren fors goedkoper geworden. Ook die van Meta en Anthropic zijn vele malen goedkoper in gebruik geworden. DeepSeek zet die trend voort, stelt Bain & Company. Met name door een slim model te ontwikkelen waarvoor slechts een klein deel van parameters geactiveerd wordt, wat goedkoper in gebruik zou zijn.
Kritiek
Althans, DeepSeek zelf claimt dat zijn AI-model bijzonder goedkoop te ontwikkelen was. Onafhankelijke kenners plaatsen er vraagtekens bij. Zo stelt analysebureau SemiAnalysis dat DeepSeek niet transparant is over de totale ontwikkelkosten van zijn AI-model en noemt Google’s Deepmind-baas de communicatie van DeepSeek ‘misleidend’.
