VN willen verbod op AI die risico vormt voor mensenrechten

"Kunstmatige intelligentie heeft zich uitgebreid tot bijna elke uithoek van onze fysieke en mentale levens en zelfs onze emoties. AI-systemen worden gebruikt om te bepalen wie een baan krijgt of wie bepaalde zorg krijgt. AI kan negatieve en zelfs catastrofale gevolgen hebben als het wordt gebruikt zonder mensenrechten voldoende in beschouwing te nemen", aldus Bachelet.

Verbod op gebruik en verkoop

De VN-commissaris wil dat er snel actie wordt ondernomen om de mensenrechten vast te stellen bij gebruik van kunstmatige intelligentie door landen en grote bedrijven. "Hoe hoger het risico voor de rechten van mensen, hoe strenger de wetten moeten zijn." Voor kunstmatige intelligentie die een direct gevaar vormt voor mensen of mensenrechten moet er een verbod komen op het gebruik en de verkoop ervan totdat er voldoende beveiligingen zijn ingebouwd, zegt Bachelet.

De hoge commissaris denkt dat kunstmatige intelligentie ook positief kan zijn, maar dat er nu nog te veel gevaren aan kleven. "De kans op discriminatie bij een beslissing genomen door AI is heel realistisch. Dit zijn soms beslissingen die het leven van mensen bepalen. Daarom moet er systematisch toezicht zijn op deze systemen om de kans op het schenden van mensenrechten uit te bannen."