Microsoft en Nvidia bouwen AI-krachtpatser in de cloud

De krachtigste computers ter wereld die elk jaar na een benchmarktest gerangschikt worden in de Supercomputer Top 500 hebben allemaal een naam. De lijstaanvoerder nu is de Frontier van het Oak Ridge National Laboratory in de VS. Nummer twee en drie heten respectievelijk Fukagu en Lumi. Alle vermeldingen op de lijst bestaan uit een flinke ruimte ergens bij een onderzoeksintituut gevuld met zij-aan-zij enorme koelkasten vaak voorzien van de naam van het rekenbeest. De diensten zijn lokaal te gebruiken, maar worden ook doorgaans via internet aangeboden aan andere onderzoeksinstellingen.

Microsoft en Nvidia kondigden vorige week aan een project te starten voor de bouw van een rekenfaciliteit speciaal voor AI-gebaseerde taken. Het geheel heeft volgens het plan indrukwekkende specificaties, maar wordt volledig in de cloud opgebouwd. Microsoft combineert daarvoor Azure virtual machines uit de ND-series en NC-series. Daarbij komen "tienduizenden Nvidia GPU's" beschikbaar, maar Nvidia brengt tevens de gloednieuwe H100 GPU's in het project in. De verbindingen worden tot stand gebracht met 200 GBps en 400 GBps Quantum InfiniBand. Nvidia levert de softwarestack die het geheel aanstuurt. Microsoft zet onder meer de DeepSpeed deeplearningtechnologie in.

Is het een supercomputer?

De opzet van het geheel roept wel de vraag op of er echt sprake is van een supercomputer of dat Microsoft en Nvidia de term gebruiken voor clouddienst met voor AI geoptimaliseerde hard- en software die klanten naar believen aan elkaar kunnen koppelen, zoals nu ook al gebeurt. De bedrijven zeggen weliswaar dat het een project betreft dat meerdere jaren in beslag gaat nemen, maar willen geen streefdatum noemen waarop het geheel in gebruik genomen wordt. "Alle nieuwe mogelijkheden zitten in Azure instances, maar de opzet is zodanig dat grote klanten de mogelijkheid krijgen ze op te schalen naar supercomputerstatus", antwoordt Microsoft in antwoord op vragen van The Register.

Desgevraagd antwoordt Nvidia dat klanten op dezelfde manier rekentijd kunnen reserveren als ze zouden doen bij het gebruik van een supercomputer. "Het enige verschil is dat het nu in de cloud zit en niet als een aparte computer." Nvidia wil er volgens VentureBeat zelf onderzoek mee doen naar nieuwe modellen als basis voor grote natuurlijke taalmodellen (NNL) en generatieve AI, waarmee bijvoorbeeld nieuwe teksten worden geproduceerd, of afbeeldingen of computercode.