Samsung fuseert geheugen met snelle AI-verwerking

De chip bouwt voort op het in-memoryconcept (PIM) dat Samsung al introduceerde met de HBM2 Aquabolt-chip in 2018. De verwerkingseenheden in het geheugen van de HBM-PIM, zijn nu geoptimaliseerd voor massaal parallelle verwerking. De nieuwe chip zou niet alleen de taken twee keer zo snel uitvoeren maar ook nog eens 70 procent zuiniger zijn wat betreft energieverbruik dan de HBM2 Aquabolt.

De nieuwe chip is nog niet volop in productie. Eerst volgen nu praktijktests door een aantal geselecteerde AI-onderzoekers. Maar deze 'validaties' zouden voor de zomer moeten zijn afgerond. De chip is bedoeld voor gebruik in grootschalige datacentra en high performance computing (HPC)-systemen.

Vermijd transport data

Het trainen en gebruiken van neurale netwerken - de basis van veel AI-applicaties - gaat gepaard met heel veel communicatie tussen geheugen en verwerking. Dat is een zeer energieslurpend onderdeel van het proces. Door de relatief simpele verwerking heel dicht op het geheugen te plaatsen kan dat energieverbruik worden teruggebracht en het proces bovendien sneller verlopen. Daarmee wordt wel afgeweken van de klassieke Von Neumann-architectuur met een strikte scheiding tussen verwerking (CPU), een controle-eenheid, werkgeheugen en opslag.

Hoewel de Von Neumann-architectuur zo'n 75 jaar de basis vormde voor alle computers, hebben steeds meer toepassingen baat bij een andere inrichting op de chip. De HBM-PIM is echter zo opgebouwd dat er geen verandering nodig is aan de hardware of software in de datacentra. De chip kan in bestaande systemen worden ingebouwd.

Samsung geeft deze week een toelichting op de aankondiging, tijdens de International Solid-State Circuits Conference (ISSCC2021.