Software wordt steeds slimmer en gaat steeds vaker zelf beslissingen nemen en zichzelf verbeteren. Maar wat als het dan toch misgaat? Een commissie van het Europees Parlement vraagt zich af of het tijd is voor regels en houdt hierover een consultatie onder EU-burgers.
Oorzaak moeilijk vindbaar
Een robot of een auto kun je moeilijk voor de rechter slepen, zegt Rob van den Hoven van Genderen, universitair docent Internetrecht aan de Vrije Universiteit Amsterdam en als IT-specialist verbonden aan advocatenkantoor SwitchLegal. Het gaat er volgens hem vooral om dat je met heel veel partijen te maken hebt. Bijvoorbeeld bij de zelfrijdende auto, legt hij uit. 'Alle informatieleveranciers die een bijdrage leveren aan het functioneren van die autonome auto; dat zijn namelijk medeweggebruikers, de meteorologische dienst die de luchtvochtigheid doorgeeft, de infrastructuurbeheerder die de temperatuur van het wegdek doorgeeft, updates die tijdens het rijden worden gemaakt: dat zijn allemaal zaken die de aansprakelijkheid, de oorzaak, heel moeilijk vindbaar maken.'
Waarborgfonds
Ook voor andere producten, zoals robots, geldt dat deze beslissingen nemen op basis van de combinatie van data die zij binnenkrijgen. Van den Hoven van Genderen: 'Je moet een andere constructie vinden. Je moet een soort waarborgfonds hebben dat voor een groot deel door robots zelf kan worden verdiend. Dan heb je in ieder geval een terugvalbasis.' Verschillende studies voorspellen volgens hem overigens dat de schade die zal worden aangericht door robots en andere intelligente apparaten minder zijn dan de schade die door mensen wordt aangericht. Toch is het goed om erover na te denken, zegt hij. 'Op een gegeven moment word je geconfronteerd met beslissende systemen die rechtsgevolgen hebben.'