PAX for peace: “STOP KILLER ROBOTS”

Vredesorganisatie PAX for peace protesteert tegen de productie van volledig dodelijke autonome wapensystemen, oftewel killer robots. Binnen tien jaar zijn deze wapensystemen mogelijk al in gebruik. Volgens de twintiger Loes van Bergen, stagiaire humanitaire ontwapening, mogen deze wapensystemen nooit in productie komen. Terwijl ze naar voren geleund op het puntje van haar stoel zit zegt ze vol passie: “Volledig dodelijke autonome wapensystemen moeten preventief internationaal verboden worden!”

 

Met een brede lach vertelt ze: “De term killer robots wordt in de media volop gebruikt en roept al gauw dingen op als ‘terminator’ en ‘de overname van robots’. Het is een leuke term die erg pakkend is om te gebruiken, maar het is niet accuraat.” Killer robots is een andere term voor volledig dodelijke autonome wapensystemen. Dit zijn wapensystemen die zelf doelwitten kunnen selecteren en uitschakelen zonder de toevoeging van een mens. Verder zijn er ook volledig autonome wapensystemen, dat zijn wapensystemen die ergens in het proces nog de toestemming van een mens nodig hebben. “Zolang er nog maar een mens in het proces zit van het wapensysteem afvuren is het goed.”

 

“Als de AI ook maar een foutje maakt in de berekening kan het mogelijk een onschuldig mensenleven kosten.”

 

Met een grinnik vertelt ze dat ze ook al moeite heeft om het onderwerp uit te leggen aan vrienden en familie. Zij vergelijkt de autonome wapensystemen met de zelfrijdende auto’s van tegenwoordig. De auto’s leren dankzij artificiële intelligentie (AI) op tijd te remmen, correct te sturen, etc. De techniek achter AI is zelflerend, dit geldt voor zowel de zelfrijdende auto als voor het wapensysteem. Bij volledig autonome wapensystemen leert de AI zelf het verschil herkennen tussen doelwitten. De AI moet zelf het verschil herkennen tussen burger en soldaat. “De technologie zal zeer goed zijn, maar niet perfect. Als de AI ook maar een foutje maakt in de berekening kan het mogelijk een onschuldig mensenleven kosten.”

 

De techniek zal helpen bij oorlogvoering. Als je een robot of drone de oorlog in stuurt hoef je een man minder te sturen. “Het is positief dat je minder mensen naar het front hoeft te sturen, maar het verlaagt de drempel om oorlog te voeren.” Het wordt voor landen gemakkelijker om een conflict aan te gaan omdat het ze toch geen mensenlevens zal kosten. Daarom moet er een verbod komen volgens Loes.

 

In 2021 zal de overheid opnieuw haar standpunt bekendmaken over volledig dodelijke autonome wapensystemen. “Het Ministerie van Buitenlandse Zaken gaf al hints weg dat ze het met ons eens zijn, maar het Ministerie van Defensie zeker niet.” De overheid heeft als taak om het eigen land veilig te houden. Als Nederland de ontwikkeling van killer robots preventief zou verbieden en andere landen niet, dan hebben we een militaire achterstand. Een preventief verbod werkt alleen als iedereen zich eraan houdt. Met een glimlach vertelt zij: “Ik heb oom meegewerkt aan een open brief aan de overheid. Die brief is ondertekend door honderdtachtig wetenschappers waarin zij laten weten hoe zorgwekkend de ontwikkeling van de wapensystemen is.”

 

“Als landen besluiten om achteraf de productie te limiteren of bepaalde landen niet toevoegen aan verdragen zijn ze al te laat.”

 

De techniek is al zover dat er al drones zijn die in principe hetzelfde opereren. “Er zijn nu al drones die honderden meters hoog in de lucht een doelwit kunnen selecteren en uitschakelen met perfecte precisie.” “Hoewel de technologie bijna perfect is kan er altijd iets fout gaan en wie is er dan verantwoordelijk? Is het de fabrikant of degene die het bevel gaf?” Zodra de technologie er is kun je het niet meer ongedaan maken. “Als landen besluiten om achteraf de productie te limiteren of om bepaalde landen niet toevoegen aan verdragen zijn ze al te laat.” Het is beter om van tevoren te zeggen dat volledig dodelijke autonome wapensystemen zo extreem en onmenselijk zijn dat ze niet mogen bestaan. Je moet jezelf eens afvragen of een machine mag bepalen over mensenlevens.” De productie van wapens die geavanceerd genoeg zijn om doelwitten te kunnen selecteren en uitschakelen moeten gereguleerd worden. “Ik zeg het nog eens, zolang er maar een mens in het proces van de kogel afvuren is betrokken is het prima. Het zijn die wapensystemen die het zonder toevoeging van een mens zelf kunnen beslissen.” “Het is zo onmenselijk om zulke wapens te hebben. Volledig dodelijke autonome wapensystemen moeten preventief internationaal verboden worden!”