Autonome verwoestende gedrochten
Opeens hoorden we een ziekenauto met loeiende sirenes. In de gemeenschap waar ik opgroeide, zag je die nooit. Ik rende naar buiten aan de stevige hand van mijn grote zus. Toen kwam de buurvrouw naar buiten. De politie was inmiddels ook gearriveerd. De woeste buurman had zijn vrouw met een broodmes gestoken. Het drong niet goed tot me door. Als zesjarige wist ik wel dat de functie van een broodmes brood snijden was; niet je geliefde bewerken.
Of daar de oorsprong ligt, weet ik niet, ik realiseer me wel dat ik lange tijd heb verkondigd dat technologie neutraal is. Ik sprak daarmee de Goden uit Silicon Valley na. Een mes is neutraal, wat je ermee doet is aan de mens. Met een geweer kun je een haas afschieten of een ruzie beslechten. Hetzelfde kun je zeggen over Facebook. Facebook verbindt mensen, dat slechteriken vervolgens filterbubbels en nepnieuws creëren waardoor polarisatie ontstaat, kun je niet op het conto van Facebook schrijven.
Ik ben van mening veranderd. Technologie is niet neutraal.
Boyan Slat, de man die het plastic uit zee gaat halen, maakte een heldere vergelijking. “Je kan mij niet wijsmaken dat een atoombom moreel gezien even neutraal is als een machine om plastic uit de oceaan te halen.”
| Columns
Ben van der Burg
De nuance ligt bij technologieën waarbij we niet de consequenties kunnen overzien. Het begint vaak met goede intenties, vervolgens weet je niet waar het schip strandt. De vader van de atoombom, Robert Oppenheimer, wilde ook niet honderd duizenden doden maken. Vorige maand verkondigde de man die de retweetknop op Twitter verzon, dat hij een geladen wapen aan een vier jarig kind had gegeven. Dat had hij vooraf niet bedacht en niet gewild.
Op voorhand onschuldige ontwikkelingen resulteren in niet in de hand te houden gedrochten.
In dat verband is de betrokkenheid van het Googlepersoneel interessant. De afgelopen jaren maakten ze regelmatig luidruchtig duidelijk dat ze niet wilden werken aan anti-humane projecten, denk aan defensiemateriaal of grenscontroles.
Het resultaat kwam afgelopen week naar buiten. Vredesorganisatie PAX kwam met een rapport waarin ze de betrokkenheid van 50 techbedrijven bij de ontwikkeling van dodelijke autonome wapens had onderzocht. Amazon en Microsoft scoorden ‘zeer zorgwekkend.’ Zeven bedrijven, waaronder Google, waren niet betrokken bij de ontwikkeling van drones, onbemande voertuigen, schepen en vliegtuigen, die zelfstandig kunnen besluiten om mensen te doden.
Nu techniek niet neutraal blijkt te zijn, dienen wij als mens des te duidelijker de positieve kant van technologische ontwikkelingen te kiezen, opdat de autonome verwoestende gedrochten niet de overhand krijgen.
Ben van der Burg
IT-ondernemer en oud-topschaatser Ben van der Burg richt zijn kritische blik op de toekomst en verrast met prikkelende observaties
