GreenOps: 4 tips om AI-training duurzamer te maken

In de snelle evolutie van AI worden we ons steeds bewuster van de impact van het trainen ervan op het milieu. McKinsey & Company berekende afgelopen september dat de technologie-industrie voor ondernemingen nu tussen de 350 en 400 megaton CO2-equivalenten per jaar produceert. Dat staat gelijk aan de totale CO2-uitstoot van het VK en de helft van de totale uitstoot die afkomstig is van de luchtvaart- of scheepvaartindustrie. Die impact kunnen we niet langer negeren.

Lees ook: 9 tips om AI duurzaam in te zetten: van infrastructuur tot software

LeafcloudSamen streven we ernaar om IT te laten floreren en tegelijkertijd de ecologische voetafdruk te verkleinen. Meer informatie

Tegelijkertijd zul je als AI-enthousiasteling het met ons eens zijn dat AI niet te stoppen is. Gelukkig is het duurzaam trainen van AI-modellen mogelijk, als je maar bewuste keuzes maakt. Door de workload te verminderen, je servergebruik te optimaliseren, en het juiste tijdstip en locatie te kiezen, kun je de uitstoot al aanzienlijk beperken. Deze benadering hangt samen met een opkomende visie op development, namelijk GreenOps.

GreenOps is een revolutionaire benadering van operationeel beheer die de focus legt op milieubewustzijn en duurzaamheid in de IT-sector. In plaats van alleen te streven naar efficiëntie en prestaties, richt GreenOps zich op het verminderen van de ecologische voetafdruk van servergebruik. De principes achter GreenOps omvatten het optimaliseren van energieverbruik, het verminderen van afval en het minimaliseren van CO2-uitstoot. Een van de belangrijkste manieren waarop dit in de praktijk kan worden gebracht, is door het implementeren van energiezuinige hardware en het optimaliseren van serverconfiguraties. Servers worden afgestemd op de specifieke behoeften van workloads, waardoor overmatig energieverbruik wordt voorkomen. GreenOps is niet alleen een ethische benadering van IT-beheer, maar het biedt ook tastbare voordelen voor bedrijven, waaronder kostenbesparingen, verbeterde operationele efficiëntie en een verminderde negatieve impact op het milieu. Het is een stap in de richting van een duurzamere en verantwoordelijkere IT-industrie. In een reeks van drie blogs laten we je zien hoe je dit aanpakt. In deze eerste blog bieden we praktische tips om de werklast van de training van je AI-modellen te minimaliseren, waarmee je al een flinke stap zet om je ecologische voetafdruk te verminderen.

4 tips om de training van je AI-modellen efficiënter te maken

Efficiëntie van de workload van de training van je AI-modellen zorgt voor aanzienlijk minder, en onnodige, milieubelasting. Hoe efficiënter je middelen gebruikt, hoe minder CO2-emissie je genereert. Laten we eens kijken met welke concrete stappen je je AI-trainingsproces kunt optimaliseren en je ecologische impact vermindert:

1. Verwijder ongebruikte of onderbenutte services en componenten

Stel je een zolder vol oude spullen voor. Al die spullen nemen ruimte in beslag en dienen geen enkel doel. Hetzelfde geldt voor ongebruikte of onderbenutte services en componenten in je AI-trainingsinfrastructuur. Ze vereisen wel steeds updates en nemen serverruimte in beslag. Dat vereist energie en veroorzaakt CO2-uitstoot. Het verwijderen van deze overbodige elementen vermindert de workload en bespaart energie.

2. Gebruik de benodigde vereisten, niet de maximale waarden

In plaats van blindelings te kiezen voor de maximale resourcevereisten, kun je beter realistisch bepalen wat je AI-modellen echt nodig hebben. Vergelijk het met een thermostaat. Als je de verwarming op de hoogste stand zet terwijl dit niet nodig is, verspil je energie. Zo werkt het ook met AI-training. Kies voor de juiste resource-instellingen en kies de juiste hardware om overmatig energieverbruik te voorkomen.

3. Slimme caching

Met caching sla je informatie op die later nodig kan zijn, waardoor je herhaaldelijk opvragen van dezelfde gegevens voorkomt. Dit principe geldt ook voor AI-training. Door slimme caching te gebruiken, kun je de werklast verminderen en de efficiëntie van je processen verhogen. Minder data over het netwerk betekent immers minder energieverbruik.

4. Bouw en schrijf efficiënter door de juiste taal te kiezen

Het kiezen van de juiste framework, programmeertaal en efficiënte code schrijven, vermindert je workload aanzienlijk. Houd hierbij wel het hele proces in de gaten, zodat je de situatie niet op een plek verbeterd en elders juist verslechterd. Vergelijk bijvoorbeeld Golang versus Python, Rust versus Ruby om efficiënter te werken.