In een open brief aan de Nederlandse regering vragen ruim 150 wetenschappers op het gebied van kunstmatige intelligentie en robotica, mee te werken aan een verbod op dodelijke autonome wapens. Het gaat hierbij om wapens die zonder betekenisvolle menselijke controle doelen kunnen selecteren en aanvallen.

De oproep van de wetenschappers komt vlak voordat de regering haar positie over autonome wapensystemen zal herzien op basis van een evaluatie die de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) momenteel uitvoeren.

Geen menselijke controle
Met de brief uiten de Nederlandse experts hun zorgen over de toenemende rol van kunstmatige intelligentie bij de ontwikkeling van wapens. Zij vragen aandacht voor de gevaren van wapensystemen die beslissingen kunnen nemen zonder betekenisvolle menselijke controle. Wanneer deze wapens zijn ontwikkeld, wordt de drempel verlaagd om oorlog te voeren en kunnen conflicten sneller escaleren. Bovendien gaan de ontwikkelingen snel: Zo is het technisch al mogelijk dat grensbewakingsrobots zonder menselijke tussenkomst een ‘illegale passant’ kunnen doden en dat drones op basis van bijvoorbeeld nummerbordherkenning automatisch voertuigen kunnen bombarderen. Er is nu al een heuse wedloop gaande op het gebied van autonome wapens. Deze wedloop zal leiden tot een toename van regionale en mondiale spanningen.

Ontwikkeling gaat snel
Miriam Struyk, directeur programma’s bij vredesorganisatie PAX: “De eensgezinde oproep van Nederlandse wetenschappers op het gebied van kunstmatige intelligentie, maakt pijnlijk duidelijk dat de technische vooruitgang zich sneller ontwikkeld dan er politieke kaders en richtlijnen kunnen worden vastgesteld. PAX sluit zich dan ook aan bij de dringende oproep van de Nederlandse experts en benadrukt dat er nu op politiek vlak iets moet veranderen om de ontwikkeling van dodelijke autonome wapens tegen te gaan.”

Verbod op ‘killer robots’
De wetenschappers vragen de Nederlandse overheid om zich sterk te maken voor een internationaal verdrag dat betekenisvolle menselijke controle garandeert over het gebruik van geweld. De experts bepleiten dan ook een verbod op systemen die gebruikt kunnen worden zonder menselijke controle. Zoals een van de ondertekenaars, Professor Lambèr Royakkers van de TU Eindhoven het beschrijft: ‘Het is eenvoudigweg onmenselijk om het doden van mensen aan machines over te laten.’
De oproep van de Nederlandse wetenschappers volgt op vergelijkbare initiatieven in Australië, België, Canada en Noorwegen waar wetenschappers opriepen tot een dergelijk verbod. De brief blijft open staan voor verdere ondertekenaars die het initiatief willen steunen.