Killer robots moeten verboden worden voor het te laat is

Van 9 tot 13 november 2015 vonden in Genève gesprekken plaats over de opkomst van zogenaamde “dodelijke autonome wapensystemen”, oftewel “killer robots”. Experts en diplomaten bediscussieerden hoe de internationale gemeenschap in de toekomst moet omgaan met deze wapentechnologie. Er werd enkel besloten om in april 2016 een nieuwe expertmeeting te organiseren. De discussie over killer robots kabbelt zo voort: een sense of urgency ontbreekt.

Drones op steroïden

Die zou er nochtans wel moeten zijn. Killer robots zijn gewapende drones op steroïden: moordmachines die doelwitten kunnen selecteren en aanvallen zonder enige menselijke interventie. Dergelijke machines zijn niet in staat om een onderscheid te maken tussen burgers en soldaten, of om in te schatten of een aanval proportioneel is in termen van het aantal burgerslachtoffers. Ze zijn daarom niet verenigbaar met het internationaal recht. Het Internationale Rode Kruis stelde al in 2011 dat ‘de ontwikkeling van een waarlijk autonoom wapensysteem dat het internationaal humanitair recht kan implementeren een monumentale programmeeruitdaging stelt die misschien wel onmogelijk blijkt te zijn.’

Een open brief uit 2013 van 272 ingenieurs, informatici, robotici en experts op het gebied van artificiële intelligentie liet eenzelfde geluid horen. ‘De technologie van autonome robotwapens zit vol beperkingen en onbekende toekomstige risico’s. Er is geen duidelijk wetenschappelijk bewijs dat zo’n wapens in staat zijn – of in de voorzienbare toekomst in staat zullen zijn- tot een accurate identificering van doelwitten, voldoende situationeel bewustzijn hebben of in staat zijn beslissingen te nemen over het proportionele gebruik van geweld’, aldus de 272 experts, die pleiten voor een volledig verbod.

Killer robots verlagen bovendien de drempel om geweld te gebruiken. Daarnaast rijst de vraag wie verantwoordelijk kan worden gehouden als het mis gaat: de programmateur of de producent? Of slepen we binnenkort ook robots zelf voor de rechter?

Derde revolutie in oorlogsvoering

Pax Christi is daarom lid van de Campaign to Stop Killer Robots, een internationale coalitie van 56 organisaties uit 25 landen die ijvert voor een preventief verbod op de ontwikkeling en productie van killer robots. De campagne wordt gesteund door meer dan twintig Nobelprijswinnaars, en kijkt naar het preventief verbieden van verblindende laserwapens in 1995 als voorbeeld.

Ook het Europees Parlement nam begin 2014 een resolutie aan die opriep tot een volledig verbod. De Speciale Rapporteur van de VN voor Buitenrechtelijke Executies riep in april 2013 op tot nationale moratoria op de productie en het gebruik van volledig autonome wapensystemen.

De urgentie voor een preventief verbod is hoog. Meer dan 1.000 experts en wetenschappers die werken rond artificiële intelligentie stelden afgelopen zomer dat de ontwikkeling van volledig autonome wapensystemen geen kwestie is van decennia, maar van enkele jaren.

Deze wetenschappers, die tot de absolute top in hun vakgebied behoren, hebben het over de ‘derde revolutie in oorlogsvoering, na buskruit en kernwapens’. Ze wijzen er ook op dat dergelijke wapensystemen relatief makkelijk aan te maken zijn, wat dreigt te leiden tot een razendsnelle verspreiding op de zwarte markt. De ondertekenaars van de oproep hebben het over de ‘kalasjnikovs van morgen.’ Professor emeritus robotica Noel Sharkey heeft het over ‘de eerste stap naar de volledige automatisering van oorlogsvoering en het uitbesteden van beslissingen over leven en dood aan computerprogramma’s’.

Regulering loopt achter feiten aan

De geschiedenis leert ons dat de mensheid niet erg goed is in het inschatten van de gevaren van nieuwe ontwikkelingen in wapentechnologie. Nationale regeringen interpreteren het internationaal recht ook vaak naar eigen goeddunken, waardoor het huidige regulerende kader niet volstaat. De snelle proliferatie en ongecontroleerde inzet van “gewone” gewapende drones toont hoe regelgeving altijd achter de feiten aanloopt. Het is ook maar de vraag of landen die nu miljarden dollars investeren in de ontwikkeling van steeds autonomere wapensystemen in de toekomst nog akkoord gaan met een verbod.

België kan en moet een rol spelen in deze debatten. Binnen internationale fora moet ons land pleiten voor een preventief verbod op killer robots. In eigen land kan een nationaal verbod worden ingesteld op de ontwikkeling en het gebruik van deze wapensystemen.

Killer robots zullen niet lang science fiction meer zijn. Het is essentieel om geen feiten te creëren die we nadien niet meer kunnen terugdraaien. Killer robots moeten verboden worden voordat het te laat is.

Willem Staes
Beleidsmedewerker Veiligheid en Ontwapening bij Pax Christi Vlaanderen

16-11-2015