'AI-gebaseerde wapens moeten een noodknop krijgen'
De mens moet te allen tijde kunnen ingrijpen bij militaire acties waarin kunstmatige intelligentie een rol speelt bij de beslissingen. Beleidsmakers staan voor de 'uitdaging' daar garanties over te eisen bij de industrie die dergelijke technologie ontwikkelt, stellen de leden van een Britse commissie die zich over deze kwestie heeft gebogen. Tegelijk waarschuwt een Australische expert dat China zeker twee keer zo veel als ieder ander land investeert in de ontwikkeling van AI.
Tijdens een hoorzitting van het AI in Weapons Systems Committee van het House of Lords in het Verenigd Koninkrijk spraken verschillende expert over de gevaren van wapensystemen die autonoom beslissingen kunnen nemen. Een van hen, een oud-aviseur op het gebied van beveiliging deed een oproep aan de politici te komen met een ''veiligheidsring, wat code of wat het ook moge zijn, die niet veranderd kan worden en in essentie een grens stelt aan wat wat een autonoom systeem kan leren en waarmee het kan evolueren en opereren", tekende The Register op.
Hij kreeg bijval van Hugh Durrant-Whyte, hoogleraar van de Universiteit van Sydney en directeur van het Centre for Translational Data Science, die wel een mogelijke oplossing daarvoor had. "Er zijn groepen die werken aan een formeel wiskundig bewijs waarmee een absolute garantie kan worden gegeven dat een algoritme alleen 'dit' doet en niet 'dat'." Volgens deze wetenschapper is dat de enige manier om dit probleem onder de knie te krijgen. "Maar het is nog niet meer dan een prille ontwikkeling."
Geest is moeilijk in de fles te houden
Daarbij komt het probleem dat niet alle landen zich aan zo'n non-proliferatiemethode zullen houden. Durrant-Whyte zei tijdens de hoorzitting ook dat China zeer veel investeert in het ontwikkelen van AI-geleide wapensystemen. Volgens de hoogleraar is het land nog niet zo ver als het Westen maar is het inmiddels wel een factor van betekenis.
Daarnaast is er nog het probleem dat de wapenontwikkeling niet alleen meer een zaak is van een industrie die onder controle staat van nationale overheden. Inmiddels kunnen ook 'non-state actors' de leiding nemen in de ontwikkeling van AI-ondersteunde wapentechnologie, waarschuwde James Black, assistant director van RAND Europe, een organisatie gespecialiseerd in onderzoek naar defensie- en beveiligingssystemen. Hij wees erop dat veel van onze huidige exportcontrole en non-proliferatieregelgeving gericht zijn op traditionele hardware zoals raketten, motoren en nucleaire materialen.
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee