Lokaal draaien van AI krijgt oppepper van AMD en Stability AI

Versie 3.0 van de lokaal draaiende AI Amuse is voorzien van AMD-geoptimaliseerde modellen. Volgens AMD levert de combinatie van nieuwe modellen en driver een factor 4,3 verhoging voor de inferencing-snelheid op AMD-hardware. Deze maximaal haalbare verhoging is in vergelijking met het prestatieniveau van het AI-basismodel.

Het gaat daarbij om inferencing op half-precision (FP16) en draaiend op AMD’s GPU-topmodel 9070 XT. Bij gebruik van AMD’s CPU Ryzen AI MAX+ 395 ligt de maximale snelheidswinst op 3,3. AMD raadt voor tests nu een handjevol van zijn GPU- en CPU-modellen aan, uiteenlopend van GPU-topmodel Radeon RX 9070 XT tot aan de relatief wat oudere 7800 XT. Qua CPU’s raadt AMD systeemconfiguraties aan met de Ryzen AI MAX+ 395, met 64 GB aan hoofdgeheugen, en de Ryzen AI 9 HX 370, met 32 GB.

Tekst naar video, video naar video

De nieuwe versie van Amuse biedt video diffusion (dus video genereren op basis van tekstinvoer), video restyle (video maken of aanpassen op basis van een bestaande video) en meer dan honderd nieuwe beeldmodellen voor Stable Diffusion 3.5. Met laatstgenoemde kunnen gebruikers die AI lokaal draaien hun eigen foto’s snel veranderen qua stijl of thema. Zo valt een familiefoto in de zomer te transformeren naar een winterfoto, toont AMD in een presentatie.