Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2019-2020

33 694 Internationale Veiligheidsstrategie

Nr. 53 VERSLAG VAN EEN SCHRIFTELIJK OVERLEG

Vastgesteld 28 november 2019

De vaste commissie voor Buitenlandse Zaken heeft een aantal vragen en opmerkingen voorgelegd aan de Minister van Buitenlandse Zaken over de brief van 13 mei 2019 over het internationaal normkader voor het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen) (Kamerstuk 33 694, nr. 45) en over de brief van 20 september 2019 over de uitvoering van de motie van het lid Koopmans c.s. over beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 48).

De vragen en opmerkingen zijn op 18 oktober 2019 aan de Minister van Buitenlandse Zaken voorgelegd. Bij brief van 25 november 2019 zijn de vragen beantwoord.

De voorzitter van de commissie,
P. Dijkstra

Adjunct-griffier van de commissie,
Konings

Vragen en opmerkingen vanuit de fracties en reactie van de Minister

Vragen en opmerkingen van de leden van de VVD-fractie

De leden van de VVD-fractie hebben met belangstelling deelgenomen aan het algemeen overleg Technologisch nieuwe wapensystemen op 3 oktober 2019 en maken graag van dit schriftelijk overleg gebruik om nog een aantal vragen te stellen.

De leden van de VVD-fractie constateren dat er in het algemeen overleg diverse nieuwe technologische wapensystemen aan de orde zijn gekomen, en kijken uit naar de door de Minister van Buitenlandse Zaken aangekondigde internationale conferentie. Deze leden vragen naar de opzet van deze conferentie, wat de inzet van het kabinet zal zijn en welke internationale partners daarbij zullen worden betrokken. Wil het kabinet voorafgaand aan de conferentie een conceptuitkomst ontwikkelen, waarover op de conferentie consensus kan worden bereikt?

1. Antwoord van het kabinet

Het Ministerie van Buitenlandse Zaken verkent op dit moment de verschillende opties ten aanzien van de te organiseren conferentie. Het verzekeren van een zo groot mogelijk bereik is hierbij leidend. Zoals ook toegezegd tijdens het AO Wapensystemen van 3 oktober jl. (Kamerstuk 33 694, nr. 50) zal het kabinet uw Kamer separaat per brief informeren over deze conferentie zodra daar meer duidelijkheid over bestaat.

De leden van de VVD-fractie constateren verder dat de vernieuwde technologieën en ontwikkelingen leiden tot nieuwe bedreigingen. Het gebruik van nieuwe technologische middelen is in toenemende mate ook mogelijk voor niet-statelijke actoren. Kan het kabinet deze leden een overzicht verschaffen van de meest relevante bedreigingen in de voornoemde categorie?

2. Antwoord van het kabinet

Het kabinet acht ieder ongeoorloofd gebruik van wapensystemen door niet-statelijke actoren zorgelijk, ongeacht of het «traditionele» wapensystemen zoals mortieren of raketten betreft, of nieuwe technologische ontwikkelingen zoals onbemande luchtvaartuigen of geïmproviseerde explosieven. Alle dreigingen die voortvloeien uit ongeoorloofd wapengebruik door niet-statelijke actoren zijn relevant. Het is daarom weinig zinvol en bovendien vrijwel ondoenlijk een uitputtende lijst van dergelijke dreigingen op te stellen.

Welke internationale regulering van nieuwe wapens bestaat er? Ziet het kabinet behoefte aan nieuwe afspraken? Zo ja, welke? Hoe wordt er gewerkt aan het in internationaal verband tegengaan van onveiligheid voortkomend uit de proliferatie van dergelijke middelen?

3. Antwoord van het kabinet

Uitgangspunt voor het kabinet is allereerst dat het bestaande internationaal recht onverminderd van toepassing is op het gebruik van nieuwe technologieën in wapensystemen. Dat recht ziet toe op zowel de inzet van als de handel in deze systemen. Naast de Geneefse Conventies betreft dat onder andere, maar niet uitsluitend, de Convention on Certain Conventional Weapons(CCW) en het Wapenhandelverdrag (ATT). Ook relevant zijn het Wassenaar Arrangement (WA) en het Missile Technology Control Regime (MTCR), die via nationale wetgeving worden geïmplementeerd. Ook zijn door de VN-Veiligheidsraadresoluties 1540 en 2370 bekrachtigd. Deze resoluties verplichten staten om wetgeving aan te nemen en te handhaven die de proliferatie van massavernietigingswapens én hun overbrengingsmiddelen (waaronder onbemande luchtvaartuigen) aan terroristische organisaties moet voorkomen. Bovendien is ieder land dat partij is bij het Eerste Aanvullend Protocol bij de Geneefse Conventies verplicht om bij het ontwikkelen, aanschaffen en inzetten van een nieuw wapensysteem, dat systeem te onderwerpen aan een toetsingsprocedure die erop toeziet dat het wapen ingezet kan worden in overeenstemming met de bepalingen van het internationaal recht, waaronder het humanitair oorlogsrecht. Nederland is partij bij de hierboven genoemde verdragen en afspraken en komt zijn verplichtingen onder deze instrumenten na. Het kabinet pleit in internationale fora voor een strikte naleving van de bestaande regels en spreekt landen aan indien blijkt dat zij dat niet doen.

De internationale gemeenschap evalueert voortdurend of de bestaande regels voldoende zijn, onder andere tijdens de jaarlijkse bijeenkomsten van de verschillende verdragen en tijdens de Eerste Commissie van de Algemene Vergadering van de Verenigde Naties. De behoefte aan nieuwe afspraken op deelterreinen heeft de afgelopen jaren dan ook geleid tot aanvullende initiatieven voor de verdere ontwikkeling van de normatieve en operationele kaders die toezien op de toepassing van de bestaande regels. Zo zijn er in het geval van autonome wapensystemen in VN-verband «Guiding Principles»¹ afgesproken die toezien op de ontwikkeling en inzet van dergelijke systemen. Ook zijn, op basis van een gezamenlijke politieke verklaring uit 2016, Internationale Standaarden geformuleerd die zijn toegespitst op verantwoorde handel in en inzet van bewapende onbemande luchtvaartuigen. Nederland heeft, als een van de zes kopgroep-landen, actief bijgedragen aan de totstandkoming van deze standaarden. Daarnaast hebben landen, waaronder Nederland, die deel uitmaken van het Global Counter Terrorism Forum(GCTF) in september 2019 vrijwillige afspraken gemaakt² die moeten voorkomen dat terroristen kunnen beschikken over onbemande luchtvaartuigen. Het kabinet ondersteunt bovengenoemde initiatieven en roept andere landen op om zich daarbij aan te sluiten.

Een belangrijke nieuwe ontwikkeling is ook de introductie van hypersone raketsystemen. Om de impact van deze rakettechnologie te verkennen en mogelijke maatregelen voor veiligheid en stabiliteit in kaart te kunnen brengen, financiert Nederland een expertworkshop hierover in Genève in december. Ook steunt Nederland het Missile Dialogue Initiativedat door Duitsland is opgezet n.a.v. de wapenbeheersingsconferentie in Berlijn op 15 maart 2019.

Ook ten aanzien van cybermiddelen zijn besprekingen gaande over de mogelijkheid tot aanvullende afspraken. Zo wordt in het kader van het Wassenaar Arrangement onderhandeld over mogelijkheden om software die gebruikt kan worden bij offensieve cyberoperaties op te nemen in de lijst van gecontroleerde goederen. Uw Kamer is middels de brief «Internationale rechtsorde in het digitale domein» van 5 juli 2019 bovendien geïnformeerd over de inspanningen van het kabinet ten behoeve van het bestendigen van de internationale rechtsorde in het digitale domein.

Voorts vragen de leden van de VVD-fractie hoe er, en zo mogelijk met internationale partners, wordt gewerkt aan de praktische weerbaarheid tegen de voornoemde dreigingen. Hoe wordt er, al dan niet in NAVO-verband, samen met andere landen ingezet op mogelijkheden om onszelf te verdedigen tegen eventuele aanvallen, ook door niet-statelijke actoren, waarbij gebruik wordt gemaakt van nieuwe technologische wapens?

4. Antwoord van het kabinet

De mogelijkheden om Nederland en, in bondgenootschappelijk verband, onze bondgenoten te verdedigen tegen eventuele aanvallen met gebruikmaking van nieuwe technologische wapens hebben de aandacht van het kabinet. De weerbaarheid tegen dergelijke aanvallen berust in de eerste plaats op onderzoek naar ontwrichtende technologieën en hun mogelijke impact. Dat gebeurt nationaal, bij de kennisinstituten TNO, NLR en Marin en internationaal, met gebruikmaking van samenwerkingsverbanden met individuele partners, bondgenoten en de NAVO.

Het recente NAVO-initiatief voor een «Roadmap on Emerging and Disruptive Technologies» onderstreept het belang dat Nederland en NAVO-bondgenoten hechten aan het in kaart brengen van de veiligheidsimplicaties van nieuwe technologieën en het onderzoeken van manieren waarop de weerbaarheid versterkt kan worden tegen potentiële inzet van nieuwe technologieën als wapens. Bij de NAVO verdienen de NATO Science & Technology Organizationen het Allied Command Transformation (ACT) vermelding – hier wordt onderzoek gedaan naar manieren waarop de NAVO en NAVO-bondgenoten rekening dienen te houden met technologische innovatie.

Naarmate technologieën verder zijn ontwikkeld verschuift de aandacht naar concrete toepassingen om dergelijke aanvallen het hoofd te kunnen bieden. Een goed voorbeeld in dezen betreft de verdediging tegen aanvallen door onbemande luchtvaartuigen. In dat kader zijn en worden op dit moment in nauwe samenhang zowel systemen ontwikkeld, als een wijze van optreden die optimaal gebruikmaakt van de technologische mogelijkheden die voorhanden zijn.

Vragen en opmerkingen van de leden van de D66-fractie

De leden van de D66-fractie hebben met belangstelling deelgenomen aan het algemeen overleg Technologisch nieuwe wapensystemen op 3 oktober 2019. De leden van de D66-fractie hebben naar aanleiding van het overleg nog een aantal vragen en opmerkingen.

De leden van de D66-fractie hebben begrepen dat het Ministerie van Defensie de aangeschafte Reapers vanaf de zomer van 2020 verwacht. Tijdens het verwervingsproces hebben deze leden meermaals gevraagd om duidelijk te maken dat het gaat om niet-bewapende Reapers en dat deze in de toekomst ook niet bewapend zullen worden. Destijds zijn de leden van de D66-fractie ingelicht dat een eventuele bewapening inderdaad niet aan de orde was. Kan het kabinet de huidige stand van zaken met betrekking tot de Reapers toelichten en hierbij in het bijzonder nogmaals bevestigen dat bewapening niet aan de orde is? Is het kabinet bereid toe te zeggen dat er in de toekomst geen sprake zal zijn van het bewapenen van deze drones?

5. Antwoord van het kabinet

Voor de beantwoording van deze vraag verwijst het kabinet naar de Kamerbrief van de Staatssecretaris van Defensie over Onbemande Vliegtuigen van 6 juni 2018 (Kamerstuk 30 806, nr. 47). Zoals onder andere in deze brief vermeld, is op dit moment geen sprake van bewapening van de Nederlandse MQ-9 Reapers. Bewapening van MQ-9’s is technisch wel mogelijk. Indien in de toekomst een behoeftestelling ontstaat voor bewapening van de MQ-9, dan wordt de Kamer daarover vooraf van op de hoogte gesteld middels het reguliere Defensie materieelproces (DMP).

De leden van de D66-fractie hebben een aantal vragen over de brief over het internationaal normkader voor het gebruik van nieuwe technologieën als (onderdeel van) wapensystemen (Kamerstuk 33 694, nr. 45).

Deze leden hebben met veel aandacht de ontwikkelingen gevolgd rondom killerrobots. Hieronder wordt verstaan autonome wapensystemen die doelen kunnen selecteren en aanvallen zonder betekenisvolle menselijke controle. De leden van de D66-fractie zijn van mening dat het ethisch onacceptabel is wanneer wapensystemen dodelijk geweld kunnen toepassen zonder directe instructie van een mens. Deze leden stuiten hierbij op twee bezwaren. Allereerst is er sprake van een ongekend veiligheidsrisico. Het gebruik van autonome wapensystemen verlaagt de drempel om oorlog te voeren en vergroot de kans op escalatie. Ten tweede zien zij juridische bedenkingen. Kan het kabinet aangeven of een autonoom wapensysteem voldoet aan het internationaal humanitair oorlogsrecht? Waarom heeft het kabinet er niet voor gekozen om wellicht nieuwe kaders te schetsen die recht doen aan deze nieuwe technologie? Kan het kabinet aangeven of een autonoom wapensysteem onderscheid kan maken tussen een burger en een soldaat? Wie is er verantwoordelijk wanneer het misgaat? Deelt het kabinet de mening dat een militair een weloverwogen beslissing moet kunnen nemen om geweld te gebruiken en daarbij moet kunnen toetsen of de aanval voldoet aan internationaal recht? Deelt het kabinet de mening dat dergelijke beslissingen niet mogen worden uitbesteed aan robots of algoritmes?

6. Antwoord van het kabinet

Om deze vragen volledig te kunnen beantwoorden moet allereerst een onderscheid worden gemaakt tussen autonome wapensystemen en volledigautonome wapensystemen. De Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV) en de Adviesraad Internationale Vraagstukken (AIV) definieerden in hun advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» van 2 oktober 2015, een autonoom wapen als een «systeem dat zelfstandig doelen, offensief of defensief, die voldoen aan voorgeprogrammeerde kenmerken, selecteert en aanvalt, nadat mensen hebben besloten het wapen in te zetten en waarbij de mens niet meer kan ingrijpen om de aanval te stoppen». Volledig autonome wapensystemen daarentegen zijn zodanig geprogrammeerd dat zij het gehele targeting proces zelfstandig uitvoeren, vanaf het formuleren van het militaire doel tot en met het bepalen van de plaats en tijd van inzet. Betekenisvolle menselijke controle over zulke systemen is niet mogelijk en daarmee zijn deze wapens in strijd met het internationaal recht. Daarom hebben nieuwe juridisch-bindende kaders, in de vorm van bijvoorbeeld een verbod, geen toegevoegde waarde. Het kabinet verwerpt op voorhand de ontwikkeling en het gebruik van volledig autonome wapensystemen. De zogenaamde «Killer Robots» behoren tot de categorie volledig autonome wapensystemen.

Ten aanzien van reguliere, d.w.z. niet-volledigautonome wapensystemen, staat niet op voorhand vast of deze systemen per definitie wél of niét kunnen voldoen aan het humanitair oorlogsrecht. Dat geldt ook voor de vraag of autonome wapensystemen per definitie wel of geen onderscheid kunnen maken tussen een burger en een soldaat. Dat moet per wapensysteem afzonderlijk worden vastgesteld. Wat wel vaststaat, is dat een wapensysteem dat niet in staat is om dit onderscheid te kunnen maken, in strijd is met het humanitair oorlogsrecht en daarmee verboden is. Ieder land is bovendien verplicht om bij het ontwikkelen, aanschaffen en inzetten van een nieuw wapensysteem, dat systeem te onderwerpen aan een strenge toetsingsprocedure die erop toeziet dat het wapen ingezet kan worden in overeenstemming met de bepalingen van het internationaal recht, waaronder het humanitair oorlogsrecht. Deze verplichting vloeit voort uit Artikel 36 van het Eerste Aanvullend Protocol bij de Geneefse Conventies, en is volgens een groot aantal landen mede onderdeel van het gewoonterecht. Indien een nieuw te ontwikkelen, aan te schaffen of in te zetten (autonoom) wapensysteem by design niet kan voldoen aan de vereisten van het humanitair oorlogsrecht – waaronder, maar niet alleen, het onderscheidsbeginsel – zal dit systeem de toetsing niet doorstaan en mag het wapen dus niet in gebruik worden genomen.

Alhoewel het kabinet van mening is dat het huidig internationaal recht afdoende is om de inzet van autonome wapensystemen in een juridischkader te plaatsen, wordt er volop gewerkt aan de operationele en normatieve kaders t.a.v. het gebruik van autonome wapensystemen. Zo zijn er in VN-verband in 2018 en 2019 elf «Guiding Principles» voor de ontwikkeling en het gebruik van autonome wapensystemen opgesteld. In 2020 en 2021 zullen de gesprekken hierover worden voortgezet, waar onder andere aan de hand van juridische, technologische en militaire expertise zal worden gewerkt aan het uitbreiden en de verdere verduidelijking van de bestaande operationele en normatieve kaders. Deze gesprekken vinden plaats binnen de Group of Governmental Experts (GGE) on Lethal Autonomous Weapons Systems (LAWS), gemandateerd door de verdragspartijen bij de Convention on Certain Conventional Weapons (CCW).

Mensen, niet machines, blijven te allen tijde verantwoordelijk voor de beslissing om geweld te gebruiken. Dat geldt ook voor de inzet van autonome wapensystemen. Deze afspraak is vastgelegd in het tweede Guiding Principle,dat stelt³: «Human responsibility for decisions on the use of weapons systems must be retained since accountability cannot be transferred to machines.». Dit betekent dat combattanten of strijders behorende tot een partij bij een gewapend conflict verantwoordelijk zullen blijven voor de verplichting om, voorafgaand aan de beslissing om een wapensysteem in te zetten, te toetsen of in dat specifieke geval kan worden voldaan aan het internationaal recht. Deze verplichting vloeit onder andere voort uit het voorzorgsbeginsel van het humanitair oorlogsrecht, dat onverminderd van toepassing is op het gebruik van autonome wapensystemen. Dit beginsel verplicht partijen bij een gewapend conflict om bij de uitvoering van een militaire aanval voorzorgsmaatregelen te nemen om nevenschade en burgerslachtoffers zo veel mogelijk te beperken.

De leden van de D66-fractie hechten aan het bereiken van een multilaterale consensus gericht op het verbieden van autonome wapensystemen in navolging van verschillende internationale gremia, waaronder het United Nations Institute for Disarmament Research. Kan het kabinet aangeven waarom het de internationale gemeenschap tot dusver niet is gelukt om hierover bindende afspraken te maken, in tegenstelling tot het bestaande verbod op chemische wapens? Wat gaat het kabinet doen om een race to the bottom te voorkomen? Wat zal de Nederlandse inzet zijn tijdens de jaarlijkse bijeenkomst van de Convention on Certain Conventional Weapons (CCW) in november naar aanleiding van de breed gesteunde motie over beheersing van de productie, plaatsing, verspreiding en inzet van nieuwe potentiële massavernietigingswapens (Kamerstuk 33 694, nr. 43)? Ziet het kabinet mogelijkheden voor Nederland als aanjager van «een zo breed gedragen en verstrekkend mogelijk verdrag of andere bindende internationale regelgeving» waartoe de motie oproept? Ziet het kabinet mogelijkheden voor samenwerking met Europese partners (Duitsland, Oostenrijk, België, Ierland) om te werken aan een dergelijk internationaal verdrag? Welke alternatieve mogelijkheden ziet het kabinet mocht een kleine minderheid binnen de CCW vooruitgang naar internationale regelgeving blijven blokkeren? Hoe staat het kabinet tegenover het invoeren van een nationaal verbod op killerrobots zolang een internationale oplossing uitblijft? Is het kabinet bereid een dergelijk verbod in te voeren?

7. Antwoord van het kabinet

Autonome wapensystemen verschillen fundamenteel van andere wapens – zoals chemische wapens, clustermunitie, brandwapens of antipersoneelsmijnen – die wél per verdrag verboden zijn. In het geval van autonome wapens betreft het namelijk een zeer breed scala aan inzetbare technologieën die in uiteenlopende systemen kan worden toegepast. Veel van de technologieën die eventueel gebruikt worden in autonome wapensystemen hebben een zogenaamd dual use-karakter, en ook de private sector speelt een leidende rol in de ontwikkeling van deze technieken.

Een specifiek verdrag gericht op autonome wapensystemen zou daarom dermate globaal geformuleerd moeten worden dat de in het verdrag opgenomen bepalingen weinig tot geen toegevoegde waarde zouden hebben ten aanzien van de huidige regelgeving. Daarnaast kan een dergelijk verdrag de ontwikkeling van positieve maatschappelijk-civiele toepassingen van deze technieken beperken. Bovendien bestaat er een risico dat een dergelijk verdrag leidt tot ambiguïteit t.a.v. het bestaande internationaal recht, door enerzijds te suggereren dat het huidige internationaal recht niet afdoende is en anderzijds een mogelijk onwenselijke herinterpretatie van het bestaande internationaal recht teweeg te brengen.

Verwijzend naar het hierboven geschetste onderscheid tussen autonome wapensystemen, en volledigautonome wapensystemen, benadrukt het kabinet nogmaals dat er reeds juridisch-bindende afspraken bestaan over enerzijds de inzet van autonome wapensystemen, en anderzijds een verbod op volledig autonome wapensystemen. Deze afspraken vloeien voort uit het internationaal recht, waaronder het humanitair oorlogsrecht en mensenrechten, die onverminderd van toepassing zijn op autonome wapensystemen. Een nationaal verbod op zogenaamde Killer Robots, oftewel volledig autonome wapensystemen, acht het kabinet daarom nodig noch wenselijk.

Het is de internationale gemeenschap wel gelukt om aanvullendeafspraken te maken over autonome wapensystemen. Zoals ook aangegeven in het antwoord hierboven, wordt er volop gewerkt aan de verdere ontwikkeling van operationele en normatieve kaders t.a.v. het gebruik van autonome wapens en zijn er meerdere Guiding Principles afgesproken. Nederland zal zich tijdens de eerstvolgende bijeenkomst van verdragspartijen bij de CCW uitspreken voor de aanname van de aanbevelingen van de GGE, die pleiten voor verdere uitwerking van de huidige kaders, waaronder de Guiding Principles. Nederland zal andere landen ook oproepen opvolging te geven aan deze principles in hun nationale beleid t.a.v. autonome wapensystemen en pleiten voor internationale overeenstemming over de noodzaak tot betekenisvolle menselijke controle over autonome wapensystemen. Het kabinet zet verder in op de verlenging van het mandaat van de GGE in 2020 en 2021, met een concreet werkplan dat ruimte geeft voor vooruitgang op de inhoudelijke agenda. Nederland trekt hierbij actief op met Europese partners, waaronder met Duitsland, Zweden en Zwitserland. Deze inspanningen, samen met toezicht op de naleving van de bestaande juridische kaders, moeten ervoor zorgen dat een zogenaamde race to the bottom wordt voorkomen.

Het kabinet hecht belang aan een breed internationaal draagvlak voor de eventuele aanvullende afspraken die t.a.v. autonome wapensystemen worden gemaakt. De betrokkenheid en het commitment van alle relevante spelers, zoals onder andere de Verenigde Staten, China en Rusland, draagt bij aan een veiliger wereld en is daarmee ook in het belang van Nederland. De CCW biedt op dit moment het enige juiste platform waar alle relevante staten bij zijn aangesloten om te komen tot algemeen geldende afspraken t.a.v. autonome wapens. Het kabinet onderschrijft de veronderstelling dat een specifieke groep landen vooruitgang binnen de CCW blokkeert niet.

De leden van de D66-fractie begrijpen dat er verschillende interpretaties bestaan van het begrip betekenisvol menselijk handelen ten aanzien van autonome wapensystemen. In tegenstelling tot de huidige visie van het kabinet zijn de leden van de D66-fractie van mening dat menselijk handelen een onderdeel dient te zijn van élke stap in het proces, dus niet alleen bij de inzet van een autonoom wapensysteem. Met name in het offensieve domein ziet de D66-fractie hier een kans op mogelijk onnodige en desastreuze gevolgen. Het louter omzetten van een kill-switch is voor de D66-fractie niet de juiste interpretatie van betekenisvol menselijk handelen. Het Nederlandse kabinetsstandpunt onderschrijft het belang van het begrip betekenisvolle menselijke controle, maar stelt dat menselijke controle over autonome wapens voor de inzet van een wapen afdoende is. Kan het kabinet het standpunt met betrekking tot menselijke inbreng nogmaals toelichten?

8. Antwoord van het kabinet

Het kabinet acht betekenisvolle menselijke controle een noodzakelijk vereiste om autonome wapensystemen conform het internationaal recht te kunnen inzetten. Het betreft menselijke controle die betekenisvolis, d.w.z. dat die controle uit meer moet bestaan dan een zogenaamde «kill-switch» die uitsluitend bedoeld is om het systeem aan en uit te zetten. Betekenisvolle menselijke controle is van toepassing binnen de bredere besluitvormingscyclus die voorafgaat aan de beslissing om een (autonoom) wapensysteem in te zetten, en kan zich, indien nodig, ook uitstrekken tot toezicht en supervisie tijdens de inzet van het wapensysteem. In welke mate die controle van toepassing dient te zijn ten aanzien van de verschillende stappen binnen deze zogenaamde targeting cyclus is onder andere afhankelijk van het type systeem, de capaciteiten die het systeem heeft, de aard van de doelwitten waar het systeem op wordt gericht, en de context waarbinnen het systeem dient te opereren. Te allen tijde geldt dat mensen de randvoorwaarden blijven bepalen ten aanzien van de tijd en plaats van inzet van het wapen, en de aard van de doelwitten waar het wapen zich op mag richten. In het geval van een autonoom wapen kan het zo zijn dat het systeem, binnen deze door de mens geprogrammeerde kaders, met een zekere mate van autonomie kan opereren. Het systeem mag deze kaders echter niet uit zichzelf aanpassen. Een systeem wat daartoe in staat is, acht het kabinet niet onder betekenisvolle menselijke controle, en daarmee in strijd met het bestaande internationaal recht.

Het Internationaal Comité van het Rode Kruis (ICRC) waarschuwt juist bij deze wapens voor de «loss of the ability of combatants to exercise the context-specific judgments required of international humanitarian law (IHL) rules, and the loss of human agency and diffusion of moral responsibility in decisions to use force». Is het kabinet bereid om het concept betekenisvolle menselijke controle te operationaliseren naar concrete maatregelen, daarbij rekening houdend met het standpunt van de ICRC? Is het kabinet het met de leden van de D66-fractie eens dat bij elke inzet van autonome wapensystemen er een element van onvoorspelbaarheid betrokken is dat nimmer in zijn totaliteit kan worden ondervangen middels procedures of regelgeving? Zo ja, is het kabinet het met deze leden eens dat gedurende het hele proces er altijd elementen van betekenisvolle menselijke controle dienen te zijn?

9. Antwoord van het kabinet

Ja, het kabinet steunt meerdere onderzoeken naar de verdere concretisering en operationalisering van het concept betekenisvolle menselijke controle en zal de uitkomsten van deze onderzoeken inbrengen in het VN-debat. Een van deze onderzoeken wordt uitgevoerd door het Stockholm International Peace Research Institute(SIPRI) en de ICRC. Het standpunt van de ICRC krijgt daarin dan ook voldoende aandacht. Het kabinet financiert ook promotieonderzoek naar dit onderwerp aan verschillende Nederlandse universiteiten, alsook consultaties over deze materie met verschillende kennisinstituten, waaronder The Hague Center for Strategic Studies (HCSS) en Clingendael.

Voor de beantwoording van de overige elementen uit bovenstaande vraag verwijst het kabinet naar de beantwoording van de voorgaande vragen.

Het kabinet stelt dat het Nederlandse standpunt ten aanzien van de noodzaak van betekenisvolle menselijke controle in 2021 «opnieuw tegen het licht dient te worden gehouden» (pagina 4). Ziet het kabinet mogelijkheden om dit proces te versnellen gezien de snelle technologische ontwikkeling als ook het internationale debat? Welk interpretatie van het begrip betekenisvol menselijke handelen verdedigt het kabinet bij de opkomende bijeenkomst van de CCW? Is het kabinet bereid de interpretatie van de leden van de D66-fractie mee te nemen in zijn inbreng?

10. Antwoord van het kabinet

Het kabinetsstandpunt ten aanzien van de noodzaak tot betekenisvolle menselijke controle is grotendeels gebaseerd op het AIV/CAVV-advies «Autonome wapensystemen: de noodzaak van betekenisvolle menselijke controle» uit 2015 en de kabinetsreactie daarop uit 2016⁴. Zoals in het adviesrapport werd aangekondigd, zal dit advies na vijf jaar opnieuw tegen het licht worden gehouden. De herziening van het AIV/CAVV-advies inzake autonome wapensystemen staat op dit moment gepland voor de tweede helft van 2020⁵. Gelet op het volle werkprogramma van de AIV acht het kabinet een versnelling van dit advies niet haalbaar. Wel wordt het concept betekenisvolle menselijke controle in de tussentijd voortdurend besproken en financiert het kabinet meerdere onderzoeken naar de praktische uitwerking hiervan, zoals ook toegelicht in de beantwoording van de voorgaande vragen.

De leden van de D66-fractie nemen naast de technologische ontwikkelingen omtrent autonome wapensystemen ook nog enkele andere technologische ontwikkelingen waar. Deelt het kabinet deze opvatting? Zo ja, welke technologisch nieuwe wapensystemen kent het kabinet nog meer en schaart het kabinet akoestische wapens ook onder technologisch nieuwe wapensystemen? Bestaat er een Nederlands beleid ten aanzien van akoestische wapens? Zo nee, waarom nog niet? Beschikt het Ministerie van Defensie over akoestische wapens of heeft het deze ooit ter beschikking gehad?

11. Antwoord van het kabinet

Technologieën worden doorlopend ontwikkeld. Dat gebeurt incrementeel, waarbij bestaande technologieën worden geoptimaliseerd en disruptief, waarbij geheel nieuwe, baanbrekende technologieën resulteren in nieuwe wapensystemen met bijbehorende (nieuwe) operationele concepten. Voorbeelden van disruptieve technologieën zijn kwantum technologie en Artificial Intelligence; deze technologieën zijn nog volop in ontwikkeling.

Akoestische wapens zijn al geruime tijd beschikbaar; de gebruikte technologie is dus niet nieuw en baanbrekend. Akoestische wapens worden geschaard onder niet-letale wapens en kunnen bijvoorbeeld worden ingezet voor crowd-crontrolen riot management. De Nederlandse krijgsmacht beschikt (behoudens de zogenoemde flash bang handgranaat bij contra-terrorisme inzet) niet over akoestische wapens. Wel kent de krijgsmacht een Long-Range Acoustical Device (LRAD): een maritieme (forse) versterker om mondelinge waarschuwingen over te brengen. Deze LRAD zou theoretisch als wapen kunnen worden ingezet. Zowel de flash bang granaat als de LRAD zijn onderworpen aan een toestemmingsprocedure en getoetst door een defensiecommissie die over het gebruik van geweldsmiddelen binnen de geldende wet- en regelgeving gaat.

---

1. Verenigde Naties, Draft Report of the 2019 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems, (CCW/GGE.1/2019/CRP.1/Rev.2), te raadplegen via: https://www.unog.ch/80256EDD006B8954/(httpAssets)/5497DF9B01E5D9CFC125845E00308E44/$file/CCW_GGE.1_2019_CRP.1_Rev2.pdf↩︎

2. Berlin Memorandum of good practices for countering terrorist use of unmanned aerial systems↩︎

3. Verenigde Naties, Draft Report of the 2019 session of the Group of Governmental Experts on Emerging Technologies in the Area of Lethal Autonomous Weapons Systems, (CCW/GGE.1/2019/CRP.1/Rev.2), te raadplegen via: https://www.unog.ch/80256EDD006B8954/(httpAssets)/5497DF9B01E5D9CFC125845E00308E44/$file/CCW_GGE.1_2019_CRP.1_Rev2.pdf↩︎

4. Kamerstukken 34 300 X en 34 300 V, nr. 88.↩︎

5. Zie ook het volledige werkprogramma van de AIV voor de periode 2018–2020 op https://www.adviesraadinternationalevraagstukken.nl/adviestrajecten/documenten/werkprogrammas/2018/10/09/aiv-werkprogramma-2018–2020↩︎