Autonome wapens: geen goed idee en geen goede belegging

Bij Triodos sluiten we alle soorten wapens uit van financiering, zoals vastgelegd in onze minimumeisen. Ook in ons standpunt over ethische AI spreken we ons verzet uit tegen dodelijke autonome wapens. Geheel in lijn daarmee heeft Triodos nu ook de Investeerdersverklaring rond autonome wapens getekend.  

Deze verklaring roept regeringsleiders wereldwijd op om werk te maken van een internationaal verdrag rond autonome wapens. Want menselijke controle bij het gebruik van geweld is noodzakelijk en de ontwikkeling van machines die zelfstandig mensen kunnen aanvallen, moet verboden worden. Dat kan met een bindend internationaal verdrag, vergelijkbaar met dat rond kernwapens.  

Ook de Verenigde Naties hebben al meermaals de nood aan zo’n verdrag benadrukt. Toch is er nog geen concrete vooruitgang geboekt. En ondertussen worden autonome wapens actief ingezet in lopende internationale conflicten, wat de dringende noodzaak van gecoördineerde wereldwijde actie onderstreept. 

Cruciaal voor beleggers 

Een verdrag rond autonome wapens is van cruciaal belang voor beleggers, aangezien dit duidelijke wereldwijde normen zou vaststellen, de transparantie zou vergroten en een grondige due diligence zou ondersteunen. Zonder zo’n verdrag is het voor verantwoorde beleggers bijzonder moeilijk om bedrijven die meewerken aan de ontwikkeling van autonome wapens, uit hun portefeuilles te houden.  

De grens tussen civiele en militaire technologieën vervaagt steeds meer, aangezien AI, robotica en hardwarecomponenten zowel in commerciële producten als in autonome wapensystemen worden gebruikt. Dit maakt screeningprocessen complexer en stelt beleggers bloot aan het risico van medeplichtigheid.

Ethische, juridische en humanitaire bezwaren 

Autonome wapensystemen – vaak aangeduid als ‘killer robots’ – zijn wapensystemen die, eenmaal geactiveerd, doelen kunnen selecteren en aanvallen zonder verdere menselijke tussenkomst. Hoewel veiligheid en efficiëntie op veel gebieden kunnen verbeterd worden door automatisering en AI, roept de toepassing ervan in wapensystemen diepgaande ethische, juridische en humanitaire bezwaren op. Zoals daar zijn: het risico dat zinvolle menselijke controle over beslissingen van leven en dood wordt weggenomen, het risico van algoritmische vooroordelen of fouten, en de dreiging van massale surveillance of willekeurig geweld.  

Er is een groeiende wereldwijde consensus dat machines niet de bevoegdheid mogen krijgen om te beslissen over leven en dood. Dit zou namelijk de fundamentele beginselen van menselijke waardigheid en het internationaal humanitair recht ondermijnen. 

Want wie is er aansprakelijk als autonome wapens onrechtmatige dodelijke slachtoffers veroorzaken? Wat met de mogelijke escalatie van conflicten? En met het risico van ‘morele uitbesteding’ waardoor de drempel voor het gebruik van geweld verlaagd wordt? Allemaal factoren die de mensenrechten bedreigen en de wereldwijde instabiliteit aanwakkeren. 

Wat de verklaring vraagt 

De beleggersverklaring, gelanceerd door de Stop Killer Robots-campagne en Etica Funds, roept regeringen op om: 

• Onderhandelingen te starten over een juridisch bindend internationaal verdrag inzake autonome wapensystemen.

• Menselijke controle te voorzien bij alle beslissingen over het gebruik van geweld. 

• Het ontwikkelen en inzetten te verbieden van machines die zelfstandig mensen kunnen aanvallen en die mensen zo reduceren tot objecten, stereotypen of datapunten. 

Oproep tot actie 

We steunen de oproep. Gaan we er ook zelf werk van maken? Natuurlijk! We blijven in gesprek met de bedrijven waarin we beleggen om ervoor te zorgen dat technologieën zo worden ontwikkeld en ingezet dat ze de menselijke waardigheid respecteren. Dat kunnen we niet alleen; het tempo van de technologische vooruitgang vereist snelle, gecoördineerde actie om duidelijke internationale waarborgen voor mensenrechten en ethische principes vast te stellen. Daarom roepen we andere beleggingsinstellingen op om deze verklaring eveneens te steunen en te pleiten voor krachtige internationale regelgeving inzake autonome wapensystemen.