AWS vouwt nu ook AI-plannen uiteen

De onthulling van AWS' AI-aanbod is donderdagnamiddag (13 april) gedaan, maar stond eerst zo'n anderhalve week eerder gepland. Dat is om vooralsnog onbekende reden op de valreep uitgesteld. Nu komt de cloudfirma van webwinkelreus Amazon met zijn vier nieuwe diensten waarmee het AI breed omarmt.

Cloud-instances en speciale chips

Met Amazon Bedrock biedt de cloudprovider een dienst waarmee klanten generatieve AI-applicaties kunnen maken en opschalen. Daarbij biedt deze services toegang tot API's (application programming interfaces) van uiteenlopende AI-basismodellen (foundation models, ofwel FM's). Die zijn dan afkomstig van onder meer AI21Labs, Anthropic en Stability AI, maar ook van Amazon zelf die eigen Titan FM's heeft ontwikkeld.

In het bestaande EC2-cloudaanbod biedt AWS nu Inf2-instances die draaien op speciale Inferentia2-chips. Die zelfontwikkelde versnellers (accelerators) zijn net als de cloud-instances ontwikkeld met het oog op hoge prestaties voor generatieve AI mét daarbij ook energie-efficiëntie en lage kosten, zo belooft de aanbieder.

Daarnaast brengt AWS nu TRN1n-instances die draaien op de eigen Trainium-chips. Deze combinatie is ontworpen voor het trainen vangeneratieve AI-modellen, wat nogal een data- en rekenintensieve operatie kan zijn.

Programmeerhulp

Als vierde AI-gedreven dienst komt AWS nu met Amazon CodeWhisperer, wat een AI-aangedreven tool is om code te schrijven. Deze tegenhanger voor CoPilot van Microsofts ontwikkelsite GitHub is gratis beschikbaar. CodeWhisperer is getraind om miljarden regels aan code en kan ontwikkelaars realtime suggesties aanreiken voor betere code. Deze verbeteringen lopen uiteen van fragmenten tot volledige functies in softwarecode.

De Nederlandse AWS-CTO Werner Vogels in gesprek met machinelearningtopman Swami Sivasubramanian over de onderliggende technologie van grote taalmodellen (LLM's), FM's en generatieve AI: