De risico's in het kort
- Het algoritme van TikTok is één van de meest geraffineerde van de wereld en kan je in een filterbubbel duwen.
- Het algoritme zou extremisme en zelfbeschadiging in de hand werken.
- Er zijn zorgen over privacygevoelige gegevens en hoe daarmee wordt omgegaan.
- Overheden maken zich zorgen over de invloed die de Chinese overheid uitoefent op en met het bedrijf.
De app, in handen van het Chinese bedrijf ByteDance is in korte tijd gegroeid tot een van de grootste social media-platforms wereldwijd met ruim 1,5 miljard gebruikers. Op de app worden veelal korte, grappige filmpjes gedeeld die in een mum van tijd viraal kunnen gaan. Dat lukt vanwege het geraffineerde algoritme van het platform, dat precies weet wat welke gebruiker wil zien. Op die manier lukt het TikTok om zijn gebruikers, die veelal zeer jong zijn, voor een lange tijd hooked te houden. En dat is direct het eerste gevaar van TikTok volgens overheden en deskundigen.
Het geraffineerde algoritme
Het algoritme van TikTok kan leiden tot filterbubbels. En uit die filterbubbel zou je nog maar moeilijk kunnen ontsnappen, zodra je erin zit. Uit onderzoek van de Wall Street Journal blijkt dat er vier gegevens zijn die TikTok gebruikt om jouw interesses te volgen en te benutten: wat je kijkt, deelt, liket en volgt. Maar vooral je kijktijd van bepaalde content is belangrijk voor het algoritme. 'Iedere seconde die je bekijkt, opnieuw kijkt of waarbij je twijfelt, traceert TikTok', ontdekten de onderzoeksjournalisten. Op die manier weet het algoritme zelfs je meest geheime guilty pleasures te ontdekken en te benutten voor hun eigen financiële gewin: advertenties verkopen. 'Zelfs dingen die je niet over jezelf weet, weet het algoritme soms te ontdekken', vertelt techjournalist Joe van Burik.
Podcast | Zo wordt AI nóg slimmer en tech-regelgeving strenger
Met het extreem slimme algoritme komen er ook andere gevaren. Niet alleen zorgt het voor een filterbubbel waar je nog moeilijk uit kan komen, het algoritme kan ook fout gedrag in de hand werken. Zo waarschuwt de Amerikaanse organisatie Center for Countering Digital Hate dat het algoritme van TikTok onder andere eetstoornissen, zelfmoordgedachtes en zelfbeschadiging in de hand werkt. Ondanks dat dit direct indruist tegen de eigen richtlijnen van TikTok.
Extremisme
Ook bestaat de mogelijkheid dat het TikTok-algoritme je in een extremistische fuik duwt. 'Het heeft de potentie om gebruikers deel te laten nemen aan legale en illegale radicale activiteiten', concludeerde onderzoeker Vincent Boucher van Queen's University in Canada. Hij bekeek honderden video's waaruit hij concludeerde dat TikTok een 'echokamer is voor haatvolle en samenzweringsverhalen'.
Persoonsgegevens in handen van China
Naast de gevaren van het algoritme, bestaat er ook bezorgdheid over de verwerking van privacygevoelige informatie door TikTok. Sinds december 2022 heeft het van oorsprong Chinese bedrijf de privacyvoorwaarden aangepast in Europa. Die nieuwe voorwaarden maken het voor TikTok mogelijk om persoonsdata toegankelijk te maken voor mensen buiten het continent, onder andere in China.
Lees ook | Nederlanders vertrouwen alleen TikTok nog minder dan ON!
De NOS sprak met drie deskundigen die stellen dat de nieuwe voorwaarden in strijd zijn met privacywetgeving. Ook de Ierse privacywaakhond heeft al zijn bezorgdheid geuit over de mogelijke schending van Europese privacyregels en doet er onderzoek naar. Dat onderzoek zou kunnen leiden tot een boete voor TikTok die kan oplopen tot 4 procent van de wereldwijde omzet. Op basis van de omzet van 2021 zou dat dan een boete kunnen worden van ruim 2,4 miljard dollar.
Publieke opinie beïnvloeden
Ook leeft de angst dat de communistische Chinese overheid de gebruikersdata in handen krijgt, omdat ByteDance een Chinees bedrijf is dat onder Chinese regels valt. Het bedrijf stelt echter daarom een Amerikaanse vestiging te hebben opgezet, die juist de Amerikaanse regels gehoorzaamt. Maar daar zouden de nieuwe privacyvoorwaarden verandering in kunnen brengen. TikTok zou daardoor gebruikersdata in aan het Chinese regime kunnen overhandigen, dat het weer kan gebruiken voor spionagedoeleinden. Daarnaast is de FBI bang dat de Chinese overheid het algoritme kan beïnvloeden en hiermee de publieke opinie in het Westen kan beïnvloeden.
Die beïnvloeding gebruikt China om zo de eigen doelen te realiseren: het veranderen van de wereldorde. Dat beschrijft onderzoeker Rush Doshi, die directeur China is in de Nationale Veiligheidsraad in de Verenigde Staten. Grote disruptieve momenten van de afgelopen jaren, zoals de Brexit, de Capitoolbestorming en de coronapandemie, brachten China ook op het idee dat 'de tijd aan onze kant staat', zoals de Chinese leider Xi Jinping stelde.
Journalisten bespioneerd
Toch lijken privacyvoorwaarden geen grens voor werknemers van TikTok om persoonlijke dossiers van gebruikers te bekijken. Zo ontdekte het het Amerikaanse nieuwsmedium Buzzfeed dat journalisten van het Amerikaanse zakenblad Forbes bespioneerd werden door medewerkers van ByteDance, het moederbedrijf van TikTok. De spionage zou hebben plaatsgevonden nadat binnen TikTok bekend werd dat de journalisten van Forbes onderzoek deden naar het Chinese social mediaplatform. Bij dat onderzoek van Forbes kwamen de journalisten erachter dat ruim 300 (voormalige) werknemers van TikTok en ByteDance banden hebben met Chinese staatsmedia. Sommige van hen werken nog steeds voor die staatsmedia, die worden gedicteerd door de Chinese overheid.
Podcast | TikTok wil de strijd aangaan met Spotify
Al deze risico's van TikTok samen hebben al geleid tot een gebruiksverbod voor ambtenaren in de Verenigde Staten. Al in 2019 verbood het Amerikaanse leger om TikTok te gebruiken op overheidshardware. Daarnaast is TikTok ook al helemaal verboden in India. Vanuit de EU is de vrees ook groot dat TikTok onder controle staat van de Chinese overheid, waardoor er al een verbod op de app is voor werknemers van de Europese Commissie. In Nederland gaan er ook stemmen op om TikTok te verbieden. Zo wil coalitiepartij ChristenUnie dat de app verboden wordt in Nederland. Ook de andere coalitiepartijen hebben hun bezorgheid geuit over de risico's die de app met zich meedraagt. Voorlopig is de app echter niet verboden, wel worden ambtenaren opgeroepen de app te verwijderen.