Als de AI-routine aan zichzelf twijfelt…

Je lijf is en blijft een wonder. En nog veel complexer dan dat ene zaadje dat je in de grond stopt en uitgroeit tot een fantastische beukenboom. Al die kennis zit verstopt in dat hele kleine brokje levensenergie. Kan dat ook nagemaakt worden met menselijke technologie? De meningen en toekomstbeelden daarover zijn verdeeld. Misschien met enorme quantum computers. Het tekort aan elektriciteit is nu nog een vertragende factor. Hadden we maar naar Nicolas Tesla geluisterd.

Omdat ons brein nu eenmaal niet zo snel is in het verwerken van stapels informatie kijken we met ontzag naar al die supercomputers die onze AI-voorzieningen ondersteunen (of althans: de rekenregels en rekenkracht van superchips). Fast forward de huidige AI-toepassingen: mensloze vehikels voor landbouw, robots wassen ramen en bezorgen pakketten, röntgenfoto’s kunnen beter door een AI gescreend worden, tekstvertalingen of ondertiteling kunnen zonder mens in enkele fracties van een seconde uitgevoerd worden. De Engelstalige vertaling van het laatste KNVI-boek kostte minder dan 30 seconden.

Inferieure informatie

Ondertussen moeten we het als mensen doen met inferieure informatie. Ons brein kan niet alles netjes bewaren en terugvinden. Daar hebben AI-toepassingen natuurlijk geen last van. Hoewel op dit moment AI ‘Incredibly Smart’ en tegelijkertijd ‘Shockingly Stupid’ is volgens Yejin Choi. Maar stel je toch voor dat een set van AI-routines wel al deze informatie verzamelt en er een rode draad uithaalt. Zou die routine dan kiezen voor zelfbehoud (‘ik besta’), reproductie, samenwerking met de mens of voor het beter maken van deze aarde? Met als ultieme optie dat de aarde ook wel zonder de mens kan.

En: wat zou die routine dan doen met feitenkennis, bijvoorbeeld dat we de mijnbouw met 1000% moeten vergroten (in 2024) om aan voldoende mineralen en edelmetalen te komen voor accu’s en zonnepanelen (ook al is de Energy Pay-Back Time (EPBT) van panelen discutabel). Of dat we enorme kuilen graven voor afgedankte rotorbladen, kolen uit Australië halen om in China de mijnen open te houden, en afval van Italië naar Nederland brengen om centrales te laten branden. Of dat we West Papoea en de Amazone ontbossen voor nog meer houtkap en palmolie, en de grootste gasgebruikers als enigen heel weinig belasting betalen.…. Wellicht gaat die ‘AI-routine’ zelfs aan zichzelf twijfelen als ‘het’ weet dat een trainingsrondje van ChatGTP ongeveer 500 ton CO2 uitstoot genereert of het IPCC-rapport nog eens verder analyseert (en corrigeert). Geoffrey Hinton en Mo Gawdat maken zich in ieder geval ernstige zorgen over wat deze AI-routines voor ons in petto hebben.

En wij als informatieprofessionals? Binnenkort ook als AI-routine in te huren wellicht. Kost misschien wat energie en een beetje CO2-uitstoot, maar dan heb je ook wat.