Geruchten over krappe GPU-levensduur werpen schaduw op AI-kosten
Het trainen van AI-modellen en het draaien van AI-toepassingen vereist veel rekenkracht van complexe en relatief schaarse datacenter-GPU's, met Nvidia als hofleverancier. Dat maakt AI dus duur. Recente berichtgeving over snelle GPU-slijtage en dus opdoemende hoge vervangingskosten werpen een schaduw. Google spreekt het officieel tegen en Nvidia doet er tegenover AG Connect het zwijgen toe.
De krachtige, dure datacenter-GPU's waar AI op draait, kennen een flink verbruik qua energie. Dat betekent in de regel ook flinke hitte-afgifte en dat vormt weer een belasting op de hardware die de levensduur kan verkorten. In de afgelopen jaren zijn er al verhalen voorbijgekomen over versleten videokaarten met GPU's die het zware rekenwerk hebben verricht om virtuele valuta te 'ontginnen'. Kopers van tweedehands Nvidia- en AMD-kaarten die zijn ingezet voor cryptocoins hebben vaak een kat in de zak gekocht.