IBM presenteert energiezuinige analoge AI chip

Het stroomverbruik van de servers waarop neurale netwerken draaien, is een beperkende factor voor de verdere ontwikkeling ervan. Het trainen van een Large Language Model (LLM) is nu al vergelijkbaar met de energieconsumptie van een groot volgeladen passagiersvliegtuig gedurende langeafstandsvlucht. Dat verbruik neemt verder toe met elke verbetering aan het LLM. In wetenschappelijke kringen is daarom al langere tijd een zoektocht gaande naar chips die deze taken kunnen uitvoeren met een veel betere energie-efficiëntie.

Analoog is de toekomst

Teruggaan naar analoge verwerking lijkt daarbij een goed optie. Analoge verwerking levert weliswaar meer ruis (onnauwkeurigheid) op maar bij neurale netwerken is die nauwkeurigheid minder van belang. In de miljoenen berekeningen die met massaal parallelle verwerking worden gemaakt, valt de ruis weg. Bovendien kan door een combinatie te maken van analoge en digitale verwerking de optimale balans tussen nauwkeurigheid en energieconsumptie worden bereikt.

IBM heeft nu in Nature Electronics een analoge chip beschreven die volgens de onderzoekers zich kan meten met GPU's wat prestaties betreft. De chip is onderdeel van het HERMES-project waarbinnen IBM al eerder een eenvoudiger versie demonstreerde op het IEEE VLSI symposium in 2021. Die bevatte nog 34 tegels (computerkernen) en de nieuwe chip heeft er 64.

Verwerking en geheugen samengebracht

In de analoge chips kunnen verwerking en werkgeheugen makkelijker worden gecombineerd. Daarin zit een belangrijk deel van de energiewinst. In digitale chips moeten de data steeds worden opgehaald uit het geheugen en dat datatransport kost verhoudingsgewijs erg veel energie.

IBM claimt in het artikel dat de chip bij vergelijkbaar energieverbruik, in staat is vijftien keer meer operaties per vierkante millimeter uit te voeren.