Grote technologiebedrijven mogelijk betrokken bij ontwikkeling autonome wapens

Aan de vooravond van diplomatieke VN-gesprekken over “killer robots” publiceert PAX, de Nederlandse zusterorganisatie van Pax Christi Vlaanderen, een nieuw rapport waaruit blijkt dat er een hoog risico is dat grote internationale technologiebedrijven, zoals Microsoft en Amazon, betrokken raken bij de ontwikkeling van dodelijke autonome wapensystemen.

Op 20 en 21 augustus 2019 vinden in Genève opnieuw belangrijke diplomatieke gesprekken plaats over de toekomstige regulering van “killer robots”. Dit zijn volledig autonome wapensystemen die zonder menselijke controle doelwitten kunnen selecteren en doden.

België toonde zich in maart 2019 als één van de eerste Europese landen voorstander van onderhandelingen gericht op een internationaal verbodsverdrag op killer robots. Uit de ontwerpconclusies van de huidige overlegronde, die vorige week gepubliceerd werden, spreekt echter bitter weinig ambitie. Als deze conclusies volgende week goedgekeurd worden, zal er in 2020 en 2021 geen enkele concrete of betekenisvolle actie plaatsvinden om killer robots te reguleren. 

Rol bedrijven

Naast landen spelen ook technologiebedrijven een cruciale rol in de ontwikkeling en productie van killer robots. PAX ondervroeg daarom 50 bedrijven uit 12 landen, die actief zijn in onder andere kunstmatige intelligentie, patroonherkenning, zwermsystemen en grondrobots. De bedrijven kregen ook de kans zelf een survey in te vullen over hun activiteiten en standpunten ten aanzien van autonome wapens.

PAX beoordeelde deze bedrijven op 3 risicofacturen. Werken zij aan technologie die voor autonome wapens kan worden gebruikt, werken zij aan militaire projecten, en hebben ze beleid om te voorkomen dat ze bijdragen aan autonome wapen? Van de 50 onderzochte bedrijven zijn er 21 op alle punten slecht scoren, waaronder Microsoft en Amazon. Nog eens 22 zitten in de gevarenzone. 7 bedrijven, waaronder Google, ontwikkelen daarentegen wél concrete maatregelen tegen killer robots.

Weg vooruit

De afgelopen jaren bleek al dat prominente stemmen binnen de technologiesector wél concrete stappen wensen tegen killer robots. In 2015 riepen meer dan 4.500 A.I.- en robotica-experten de Verenigde Naties op tot actie, terwijl 116 CEO’s van technologiebedrijven zich in 2017 uitspraken tegen killer robots.

PAX en Pax Christi Vlaanderen roepen individuele werknemers en CEO’s van technologiebedrijven op om deze voorbeelden te volgen. Het rapport geeft ook een aantal aanbevelingen aan bedrijven, waaronder:

• Bedrijven moeten zich er publiekelijk over uitspreken dat ze niet zullen bijdragen aan de ontwikkeling van volledig autonome wapens.
• Bedrijven moeten duidelijke richtlijnen aannemen om dit intern te implementeren, en dit beleid ook publiek toegankelijk maken.
• Bedrijven moeten ervoor zorgen dat hun medewerkers weten waar de technologieën waar ze aan werken voor bedoeld zijn, en toestaan dat open wordt gesproken over eventuele zorgen bij medewerkers.

“Het is cruciaal dat we dit debat voeren nu de technologie nog in ontwikkeling is. Technologiebedrijven moeten zich ervan bewust worden dat hun technologie kan worden gebruikt om autonome wapens te ontwikkelen. Het aannemen van duidelijk en openbaar toegankelijk beleid is essentieel om dat te voorkomen”, besluit Daan Kayser van PAX.

Link naar volledige rapport: https://www.paxforpeace.nl/publications/all-publications/dont-be-evil