Neuraal netwerk kiest zelf ook liever voor diversiteit

Veel van de digitale neurale netwerken die nu flink worden gebruikt, bestaan uit een groot aantal knooppunten - het equivalent van synapsen in een natuurlijk brein - waar op basis van parameters (weights) een bewerking wordt uitgevoerd op de ingevoerde data. Die knooppunten en hun verbindingen (neuronen) zijn in de meeste klassieke neurale netwerken identiek. In het proces van training wordt de sterkte van de verbindingen en de weights aangepast, maar als de training voorbij is, blijft het neurale netwerk zoals het is.

Systeem kreeg controle over zichzelf

Een team van onderzoekers van de North Carolina State University heeft nu onderzocht wat er gebeurt wanneer de AI zelf het aantal, de vorm en de sterkte van de verbindingen kan bepalen. Hierdoor ontstaan er subnetwerken van verschillende neurontypes en de verbindingen daartussen. De situatie van dit zogenoemde 'meta-AI' lijkt meer op hoe biologische neuronen in het brein zijn georganiseerd; waar neuronen ook niet eenvormig zijn. 

"Eigenlijk hebben we  onze AI een controleknop gegeven over het eigen brein", zegt co-auteur William Ditto, natuurkunde-hoogleraar aan de North Carolina State University en directeur van het Nonlinear Artificial Intelligence Laboratory (NAIL) van deze universiteit. "Wij wilden zien of onze AI diversiteit zou verkiezen boven homogeniteit en wat de keuze van het systeem zou zijn op de prestaties." Kern van het onderzoek was het systeem de mogelijkheid te geven  zichzelf te analyseren. 

Nauwkeurigheid werd significant beter

Vervolgens werd het systeem gevraagd een standaard classificatie-experiment met getallen uit te voeren. Een standaardsysteem deed dat met 57% nauwkeurigheid maar het systeem dat met meta-AI was uitgerust kwam tot een score van 70% accuratesse. Ook in andere experimenten, zoals het bepalen van de gang van een slinger of de beweging van sterren in het heelal, lukte het beter met een meer diverse samenstelling van neuronen.

De conclusie die het team trekt in een artikel in de sectie Scientific Reports van het gerenommeerde vakblad Nature, is dat AI de eigen prestaties kan beoordelen en verbeteren door de interne structuur aan te passen. Het systeem kiest dan voor diversiteit om het eigen leervermogen te verbeteren  en om dan efficiënter en nauwgezetter te werk te gaan.