Technologie29 mei '13 06:34Aangepast op 29 mei '13 08:45

Geprogrammeerd om de vijand om te leggen

Auteur: Thijs Baas

De Killerrobot komt er aan. Op veel plekken in de wereld wordt research gedaan naar systemen die autonoom, zeg maar op eigen houtje, een vijand kunnen omleggen.

De VN debatteert straks over een voorlopig verbod op de ontwikkeling van die zelfstandige moordmachines. Ze zijn geprogrammeerd om zélf hun slachtoffers uit te kiezen. Vooral Amerika investeert veel geld in die technologie. "Je kunt er een kanon op zetten en ze kunnen schieten, maar iemand moet hem wel op scherp zetten", zegt Pieter Jonker, hoogleraar Vision Based Robotics aan de TU Delft tegen verslaggever Martijn de Rijk.

Waarneming
En die beslissing moet wel genomen worden, waarschuwt Jonker. "Je kunt een robot optimaal leren doden, maar de grap is dat je die beslissing moet nemen op basis van wat de robot waarneemt met een camera. En dat is beperkter dan bijvoorbeeld een helikopterpiloot. En zelfs daar kan het zomaar mis gaan. Ik denk dat een robot dat nog veel minder kan beoordelen."

Hoewel er cognitieve robots worden gemaakt die situaties kunnen inschatten is de vraag hoe goed-ie dat kan. "Het tweede is of de robot zich eraan houdt. Maar het grootste gevaar is dat een robot ook verkéérd opgevoed kan worden. "Als je een robot hebt die leert, kun je ze ook slecht opvoeden, zoals je ook een hond slecht kunt opvoeden."

Leven en dood
Cees Homan, onderzoeker bij instituut Clingendael, vindt robots op het slagveld een beangstigende gedachte. "Het belangrijkste argument van de makers is dat je de menselijke slachtoffers kunt beperken. Maar als we daar autonome robots voor gebruiken vind ik dat een heilloze ontwikkeling. Dan wordt de beslissing tussen leven en dood niet door eens mens gemaakt, maar door een robot. In die situatie moeten we nooit verzeild raken."

De robot zou geprogrammeerd kunnen worden volgens de regels van het oorlogsrecht, waardoor hij heel ethisch kan vechten, zo betogen de makers. "Hij zou een onderscheid kunnen maken tussen civiele en militaire doelen", legt Homan uit. "Maar de vraag is bijvoorbeeld of de robot een onderscheid kan maken tussen een gewonde en niet-gewonde militair." Homan hoopt dan ook dat er via de VN een verbod komt op de wapens.

Protestbeweging
IKV Pax Christi doet mee met een internationale protestbeweging, Stop Killer Robots. De organisatie wil een verbod op een technologie die nog niet wordt gebruikt. Miriam Struyk, van IKV Pax Christi: "Het moet eigenlijk niet gebeuren dat autonome systemen straks beslissingen gaan nemen over leven en dood."

"Het is ook voor het eerst dat staten in VN-verband nu gaan debatteren over de killerrobots. De technologie komt eraan, er is nog discussie wanneer precies het komt, maar we weten dat de wens er is bij producenten om dit te gaan maken.

Landmijnen
"We zijn ook niet tegen technologische ontwikkeling. Er zijn ook hele goede dingen die kunnen gebeuren met robots, ze kunnen bijvoorbeeld landmijnen onschadelijk maken of in bejaardenhuizen werken. Maar een robot die zelf de beslissing neemt over wat een doelwit is en of hij die kan uitschakelen of niet, gaat volgens Pax Chriti te ver. Ze vrezen voor het vallen van onschuldige burgerslachtoffers. "Een robot kan de situatie ook niet goed inschatten; is het een soldaat die zichzelf wil overgeven of wil aanvallen?"


Deel dit artikel

Gerelateerde artikelen