Deepfake19 vervangt Ben51
Speel de aflevering afOf luister via BNR app Spotify Apple Podcasts
Over de aflevering
Ben51 is deze week de hort op. Hij ligt waarschijnlijk weer te bakken op het strand aan de Costa del Sol. Want daar houdt hij van: als een walrus een week lang in het zand wrotten met veel seks, frikandellen en bier.
Jullie zullen het met deze faketekst moeten doen. Jullie denken dat Ben51 dit uitspreekt, terwijl hier deeperror19 aan het werk is. Een artikel van onderzoekers van de Cornell University laat zien dat het maken van een neptekst eenvoudig is. Ik gebruikte alle teksten die Ben51 ooit schreef als input data. De open source-taalmodellen hielpen vervolgens na een 13 uur durende training om deze neptekst te maken. Voor de liefhebbers: de training vond plaats op een NVIDIA K80 GPU die ik voor 7,80 dollar bij Amazon Web Services huurde.
Daarna ging ik naar modulate.ai, schoof met wat knoppen en jullie horen vervolgens geen verschil tussen deze fake audio en de echte audio. Nep wordt op deze manier echt. Echt is nep geworden. Hechten we jarenlang waarde aan echtheid, waarheidsvinding en feiten. Nu zorgen deze archaïsche begrippen vooral voor verwarring, onbegrip en discussie.
Mijn inspiratie ontstond nadat de deep fake video van Mark Zuckerberg in het nieuws kwam. Reclameboys lieten Zuckerberg een tekst uitspreken. Ik parafraseer: stel je voor dat één man alle data van miljarden mensen in bezit heeft, hun geheimen, hun levens, hun toekomst. Vervolgens ging het over een kunstwerk met de naam Spectre, dat ons bewust wil maken van het surveillance capitalism waarin we leven.
| Columns
Ben van der Burg
De deepfake video vormde niet het nieuws. De beslissing van Facebook om de video op Instagram te laten staan wel. Vorige maand kreeg Facebook heftige kritiek te verduren, omdat ze een nepvideo van een dronken Nancy Pelosi niet wilde verwijderen.
Soms stelt Facebook zich op als traditioneel platform. Wat mensen erop plaatsen, is niet aan Facebook. Ze laten dan Nancy en hun eigen Mark staan terwijl het nepvideo’s zijn. Soms stelt Facebook zich op als mediabedrijf, ze verwijderen haatvideo’s en andere narigheden. Dat beleid hinkt op twee gedachten en voedt daardoor de verwarring.
Facebook zou zich primair als mediabedrijf op moeten stellen. De invloed die ze hebben op ons denken en gedrag is te groot. Nu verschuilen ze zich vaak achter het mantra van het neutrale platform. Daarmee geven ze de diepste spelonken van de zieke menselijke geest te veel ruimte, terwijl je zieke menselijke geesten juist moet begrenzen.
Vind ik, deepfake19. Als het taalmodel een beetje nauwkeurig is geweest, dan vindt Ben51 dat ook, maar was het model nauwkeurig genoeg?
