Big Tech en de Marktplaats van Ideeën | discussie avond bij VrijLinks

Vandaag bespreken we de invloed van de zogeheten Big Tech - grote private tech bedrijven zoals Facebook - op wat ik hier de "marktplaats van ideeën" zal noemen. Ik zal het onderliggende idee van de "marktplaats van ideeën" betrekken op de oorspronkelijke belofte van het internet en social media. En samen bespreken we aan de hand van een case study die ik later introduceer wat er terecht is gekomen van die belofte.

De marktplaats van ideeën

De marktplaats van ideeën is, kort gezegd, het idee dat als je vrije publieke discussie faciliteert - waar goede en slechte ideeën met elkaar de strijd aan kunnen gaan - dat uiteindelijk de goede ideeën de boventoon zullen voeren en de slechte ideeën het loodje leggen.

Kortom, de marktplaats van ideeën trekt een analogie tussen opinievorming en het liberale idee van een zelf-regulerende vrije markt. Nog even los van of dat liberale gedeelte je aan staat, het onderliggende idee - namelijk de mogelijkheid van een constructieve en transparante publieke discussie - raakt aan de kern van de Westerse liberale democratie en ook de rol van de media daarin. Ook VrijLinks opereert, lijkt mij, vanuit de basale aanname dat onze democratie gebaat is bij een publiek debat waarin meerstemmige, geïnformeerde, en soms tegendraadse geluiden worden ingebracht.

Vandaag zoomen we in (pun intended) op hoe dat idee van de marktplaats van ideeën eruit ziet in deze "digitale tijden". De vraag hoe ideeën op het internet worden geconsumeerd en geproduceerd is core business voor een online platform zoals VrijLinks.

De belofte van internet en sociale media

De oorspronkelijke belofte van het internet op dit vlak, en later ook die van sociale platforms, was om het publieke debat verder te democratiseren. Iedereen kan nu meedoen!

  • Iedereen kan een eigen website maken en zo informatie delen. Je hoeft hiervoor geen krant meer te hebben!
  • Informatie was vrij, decentraal, en peer-to-peer toegankelijk.
  • Vanwege dat decentrale karakter is informatie uitwisseling ook minder makkelijk te belemmeren. Power to the people!
    • Bijv. er wordt doorgaans gezegd dat social media een actieve rol speelden in het vormen van het politieke debat dat resulteerde in de Arabische Lente.

Hoe staat het er nu voor met de belofte?

Merk op dat met moderne sociale media informatie delen wellicht gratis wordt, maar niet per se vrij. Een grote misvatting over de open source community voor vrije software is dat "gratis" en "vrij" hetzelfde zijn. In het Engels is die misvatting evidenter in de term free software.

Data van social media wordt gebruikt om profielen van mensen op te bouwen, om bijvoorbeeld effectiever producten aan je te kunnen verkopen. Platforms proberen zo je gedrag te sturen (nudging) en je hebt doorgaans geen tot weinig inzicht in hoe je wordt gemanipuleerd, en al helemaal geen vrijheid om zelf aan de achterliggende code te knutselen. Hoe vrij en democratisch is dat nou eigenlijk?

In de marktplaats van ideeën is er in zekere zin ruimte voor ongefundeerde of onjuiste meningen: zodra ze maar betrokken worden in (rationele) dialoog zullen die uiteindelijk wel worden rechtgezet.

Maar hoe zit dat met diezelfde ongefundeerde of onjuiste meningen nu dat ze met de snelheid van het licht (d.w.z. glasvezel) de hele wereld over worden geschoten, op een snelheid en schaal die we nog niet eerder hebben gezien? En hoe zit dat, nu onwaarheden actief worden geboost door algoritmes simpelweg omdat ze meer clicks opleveren, en daardoor viral gaan.

Dat laatste lijkt in directe tegenspraak met de basale aanname van de marktplaats van ideeën dat de beste ideeën winnen. De winnaar is niet de mening die juist is, maar de mening die zich het meest effectief - als een virus - over alle netwerken kan verspreiden. Die zogenaamd vrije marktplaats van ideeën is dus misschien meer een veiling waarin diegene die het hardste schreeuwt er met de prijs vandoor gaat.

Wie optimistisch is zegt dat de analogie van de vrije marktplaats onder druk staat, maar velen zullen zeggen dat de belofte ronduit niet wordt waargemaakt. Met betrekking tot het digitale domein wil ik twee punten aanstippen.

1. Informatie is niet meer decentraal, maar wordt gecontroleerd door grote private tech bedrijven

Allereerst is het beeld van het internet als een decentraal communicatienetwerk feitelijk niet meer accuraat, al zijn er wel in de marges initiatieven om weer iets van de vroege dagen van het internet terug te krijgen.

Als je een website zoekt is de kans groot dat je niet direct de URL intypt, maar in plaats daarvan de website Googlet. Google is de facto de centrale toegangspoort tot het internet geworden. Om het verschil aan te geven: vroeger vond je websites omdat andere websites een hyperlink ernaartoe gaven, en anders waarschijnlijk niet. Daarom bestonden er startpagina's met handige links. Yahoo! was bijvoorbeeld een met de hand samengestelde collectie van hyperlinks.

[ Volgende slide ]

Het oude internet had karakter, met diverse veelkleurige websites die een goed beeld gaven van iemands persoonlijkheid. Nu maakt iedereen websites op één bepaalde manier, namelijk zó dat Google's zoekalgoritme blij is met de website en hem dus hoger in de zoekresultaten zet (dat het SEO: Search Engine Optimisation).

[ Volgende slide ]

Fantastische technologie en heel handig hoor, Google, maar hoe wenselijk is het dat private en bovendien Amerikaanse bedrijven zo'n grote rol spelen in welke informatie wij te zien krijgen en daarmee ook een rol spelen in het Nederlandse publieke debat?

[ Volgende slide ]

Zo woedt er bijvoorbeeld al jaren in Nederland een Zwarte Piet-discussie. Facebook en Instagram hebben in 2020 besloten alle uitingen van "blackface" te verbieden op hun platforms, met als gevolg dat ook foto's van Zwarte Piet verboden zijn. Los van of je hier nu voor of tegen bent, de crux met betrekking tot een ideale vrije markt van ideeën is dat een Nederlandse maatschappelijke discussie, in de context van een Nederlandse traditie, hier voor een groot deel wordt beslecht door twee Amerikaanse private tech bedrijven die handelen vanuit een Amerikaanse context.

In deze krantenkop zien we in ieder geval een ongewenst effect van deze inmenging We zullen het vandaag uitgebreider hebben over het risico van censuur.

[ Volgende slide]

We zien aan de hand van dat voorbeeld dat sociale platforms écht wat anders zijn dan internet providers. Ik noem dat laatste omdat sociale media zoals Facebook verantwoordelijkheid ontlopen door zich te beroepen op wetgeving voor internet providers: de basis aanname daar is namelijk dat zij alleen de content hosten van hun gebruikers en dus niet direct aansprakelijk zijn voor die inhoud (tenzij iemand hen op illegale inhoud wijst, dan ondernemen ze actie).

Dat model past echter niet meer bij moderne sociale media, omdat ze niet alleen content faciliteren, maar ook met hulp van algoritmes "klikbaar" nieuws actief verspreiden. Waarom? Omdat ... dat makkelijk te verspreiden nieuws meer reclame inkomsten oplevert!

De uitvinder (Chris Wetherell ) van de "Retweet" knop zei bijvoorbeeld eind 2019 dat hij daar gigantisch spijt van heeft. Het doel van de Retweet knop was helemaal conform wat ik de originele belofte van het internet noemde: het delen van informatie makkelijker en sneller maken. De praktijk: omdat mensen onnadenkend op de knop drukken tijdens het scrollen door hun feed (wellicht terwijl ze op het toilet of verveeld in de bus zitten) kan misinformatie of desinformatie zich razendsnel verspreiden, met zaken zoals heuse haatcampagnes tot gevolg.

We zien nu dat bedrijven als Facebook steeds meer op het matje geroepen worden om verantwoordelijkheid te nemen voor de impact van hun technologie in de maatschappij. Wanneer ze dat daadwerkelijk verantwoordelijkheid proberen te nemen - zoals we bijvoorbeeld in de Zwarte Pieten discussie zien - zien we het risico van arbitraire censuur: want wie bepaalt wat goed en fout is? Willen we echt dat Amerikaanse rijke tech-nerds zoals Mark Zuckerberg dat doen? En nog ingewikkelder: willen we dat algoritmes dat gaan doen?

Kortom, wat deze technologieën doen met de manier waarop wij informatie produceren en consumeren is niet onschuldig. Zelfs zoiets simpels als een retweet-knop kan gigantische impact hebben. Echter, ontwikkelingen in kunstmatige intelligentie (AI) compliceren dit vraagstuk nog verder.

2. AI en algoritmes; verdere erosie van de waarheidsvinding

Ontwikkelingen in AI die op zichzelf bekeken fascinerend en zelfs revolutionair zijn, zorgen voor een nog verdere erosie van de marktplaats van ideeën naast "traditionele" manipulatie van informatie.

De volgende voorbeelden dragen bij aan een verdere fragmentatie van een gemeenschappelijke set feiten en zorgen ervoor dat informatie steeds moeilijker te vinden is tussen alle ruis.

Informatie bubbel

Algoritmes kunnen informatie personaliseren op basis van je interesses en online gedrag. Er wordt wel eens gezegd dat het risico hiervan is dat je alleen informatie ziet die al bij je vooroordelen past, in plaatst van uitgedaagd te worden door andere perspectieven. Dit wordt wel eens de informatiebubbel of een echo chamber genoemd.

Hoewel er meer "informatie" dan ooit beschikbaar is toont het fenomeen van de informatiebubbel dat het dus niet per se zo dat dit ook geïnformeerde dialoog stimuleert, als iedereen met het eigen kamp praat.

GAN

General Adversial Networks (GANs) die deepfakes produceren en de geloofwaardigheid van videobeelden ondermijnen.

Kijk even naar het plaatje. Kun jij zien dat dit geen bestaand persoon is?

NLP (GPT-2)

Er zijn tegenwoordig algemeen beschikbare taalmodellen waarmee je tot op een pagina lange geloofwaardige computer-gegenereerde tekst kan produceren

Gaan we naar een internet toe waar een groot deel van de content door computers en vertaalmachines is gegenereerd?

Zelfs met een kleine website zoals die van mij krijg ik dagelijks spam comments. Daardoor weet ik onderhand veel van allerlei drugs en erectiepillen!

Samenvatting

We hebben kort stilgestaan bij de rol die grote tech bedrijven spelen in het Nederlandse publieke debat waar ook VrijLinks een rol in speelt. Wat waren de hoofdpunten?

  • Sociale platformen hebben een machtige rol in onze communicatiepraktijken veroverd en beïnvloeden daarmee ook het Nederlandse publieke debat.
  • Online platformen faciliteren niet alleen informatie, ze spelen een actieve rol in de verspreiding van informatie én desinformatie
  • En nu deze platformen ter verantwoording worden geroepen en steeds meer gaan ingrijpen, zullen we dan steeds meer zien dat vrije discussie in Nederland wordt beslecht door private (Amerikaanse) bedrijven, en Amerikaanse censuur?

We hebben een case study uitgezocht die, denken wij, de thema's van vandaag mooi aankaart.

Introductie case study

LinkedIn is een site voor professionele netwerken.

Ook op LinkedIn zien we dat ze hard proberen om ongewenste informatie tegen te gaan.

We zien hier een bericht van Ira Helsloot, hoogleraar Besturen van Veiligheid aan de Radboud Universiteit, dat is verwijderd door LinkedIn. In het bericht deelt Helsloot een link naar een artikel dat René Ten Bos heeft geschreven voor het Nederlands Tijdschrift voor Geneeskunde. Réne Ten Bos is hoogleraar filosofie van de managementwetenschappen, ook in Nijmegen, en sommigen van jullie kennen hem misschien nog als denkers des vaderlands. Beide echt geen minkukels dus.

Het verwijderen van het bericht van Helsloot leidde tot een klein relletje. Waarom?

  • Het is pregnant dat LinkedIn een platform voor professionelen wilt zijn, maar vervolgens blokkeert het een bericht van twee hoogleraren.
  • Dit is ook echt wrang, want juist academische informatie zou een boegbeeld van kritische dialoog moeten zijn.
  • LinkedIn bespreekt details omtrent dit soort conflicten vanwege hun privacy-beleid niet met derden, zoals journalisten die hier vragen over stellen.
  • Het is dus onduidelijk of dit bericht automatisch is geblokkeerd of door een algoritme (ik vermoed zelf het laatste)

Introduceer stellingen en break-out rooms.