Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2021-2022

26 643 Informatie- en communicatietechnologie (ICT)

Nr. 821 VERSLAG VAN EEN RONDETAFELGESPREK

Vastgesteld 10 maart 2022

De vaste commissie voor Digitale Zaken heeft op 10 februari 2022 gesprekken gevoerd over de rol van socialmediaplatformen.

Van deze gesprekken brengt de commissie bijgaand geredigeerd woordelijk verslag uit.

De voorzitter van de commissie,
Kamminga

De griffier van de commissie,
Boeve

Voorzitter: Azarkan

Griffier: Boeve

Aanwezig zijn zes leden der Kamer, te weten: Azarkan, Bouchallikh, Van Ginneken, Van Haga, Rajkowski en Van Weerdenburg,

alsmede mevrouw Austin, mevrouw Eringa en mevrouw Van Huijstee.

Aanvang 14.34 uur.

De voorzitter:

Aan de orde is het rondetafelgesprek inzake de rol van socialmediaplatformen van de vaste commissie voor Digitale Zaken. We hebben gepland van 14.30 uur tot uiterlijk 16.00 uur. Ik zeg er alvast bij dat ik iedereen verzoek om om 16.00 uur de zaal te verlaten. Er staat dan iets anders gepland en dan kunt u niet in deze zaal blijven. Er is overigens om 16.30 uur een vervolg hier, maar ik verzoek iedereen dan om in de tussentijd de zaal te verlaten.

Voordat dat zover is, heet ik de mensen die dit thuis op afstand volgen van harte welkom, evenals de Kamerleden. Ik stel ze aan u voor: mevrouw Van Ginneken namens D66, de heer Van Haga namens de Groep Van Haga, mevrouw Rajkowski namens de VVD, mevrouw Van Weerdenburg namens de PVV en mevrouw Bouchallikh namens GroenLinks. In het bijzonder heet ik welkom mevrouw Austin van Bits of Freedom, mevrouw Van Huijstee van het Rathenau Instituut en mevrouw Eringa van het Commissariaat voor de Media. Fijn dat u hier bent om uw kennis met ons te delen. We hebben natuurlijk een aantal vragen voor u. We willen graag dat de Kamerleden bij het plenaire debat zo goed mogelijk uitgerust zijn met de informatie die ze in staat stelt om het debat op een goede manier te vormen. U heeft allen ook een positionpaper ingediend. Die hebben de Kamerleden gekregen. We gaan ervan uit dat ze die ook gelezen hebben. Ik wil het als volgt doen: ik wil u allen in de gelegenheid stellen om na elkaar binnen een aantal minuten het meest essentiële uit de positionpaper met ons te delen, uw verhaal. Vervolgens zal ik de Kamerleden in staat stellen om u vragen te stellen.

Volgens mij was dat zo'n beetje alles wat met het huishoudelijk reglement te maken had. We zijn zover. Ik geef graag het woord aan mevrouw Austin.

Mevrouw Austin:

Dank u wel. Namens Bits of Freedom ook hartelijk dank voor de uitnodiging om hier vandaag te mogen zijn. Ik heb drie minuten, ik ga dat ook redden. Ik wil in die drie minuten graag stilstaan bij de kenmerken van het online communicatielandschap zoals we dat nu kennen. Daarnaast wil ik laten zien hoe platformen het publieke debat belemmeren. Tot slot wil ik stilstaan bij de vraag waarom regulering nodig is en welke regulering nodig is.

Iedereen die actief meedoet aan het publieke debat, zal de problemen die we daar zien, bijvoorbeeld rondom desinformatie en polarisatie, in meer of mindere mate herkennen. Het is duidelijk dat het onlinecommunicatie-ecosysteem, dus het totaal aan partijen die onze communicatie faciliteren, er momenteel niet in slaagt de voorwaarden te scheppen voor een vitaal publiek debat. Dat is nodig. Niet alleen voor ieders zelfontplooiing, maar ook voor een weerbare democratie. Hoe komt dat dan, is de vraag. Hoewel de problemen die we vandaag bespreken, niet nieuw zijn – eeuwenoud zou je misschien zelfs wel kunnen zeggen – lijkt de toename van de impact ervan op de samenleving wel nauw verbonden te zijn met de logica van dat onlinecommunicatielandschap.

Dat ecosysteem heeft eigenlijk twee kenmerkende eigenschappen die nieuw zijn. Ten eerste is het een markt die gedomineerd wordt door een klein aantal heel grote partijen, die u morgen ook zult spreken. Ten tweede ligt er een verdienmodel aan ten grondslag dat gebaseerd is op het volgen en profileren van mensen. Voor de grootste platformen betekent dit dat je je gebruikers heel gedetailleerd in kaart brengt en andere partijen dan laat betalen om die gebruikers te mogen beïnvloeden. Op de grote platformen is daartoe, blijkt uit onderzoek, een heel systeem aan manipulatiemechanieken actief. Die mechanieken worden ingezet – heel kort door de bocht – om de tijd die jij op een platform doorbrengt en de data die je daar genereert, te maximaliseren en de risico's voor platformen te minimaliseren: platformlogica. Die platformlogica gaat ten koste van ons publieke debat. Zij betekent namelijk dat de aanbevelingssystemen extreme content voortrekken, dat content waar adverteerders een beetje huiverig voor zijn, wordt verdrukt en dat onder andere journalisten, ngo's en artiesten worden gecensureerd.

Met andere woorden: de belangen van deze platformen zijn alleen per toeval verenigbaar met de belangen van een open en vrije samenleving. Dit brengt me bij het belang van regulering. In 2019 maakte uw Kamer zich zorgen om verkiezingsmanipulatie. Dat was in de aanloop naar de Europese verkiezingen. Op uitnodiging vertelde Facebook hier in de Tweede Kamer dat zij het onmogelijk had gemaakt voor mensen in het buitenland om met behulp van Facebook Nederlandse kiezers te targetten met specifieke politieke boodschappen. Uit onderzoek van Bits for Freedom bleek dit allesbehalve waar. De toenmalige Minister van Binnenlandse Zaken reageerde op Kamervragen door te wijzen op Facebooks eigen verantwoordelijkheid.

Schandaal na schandaal laat echter zien dat de partijen waar u morgen mee spreekt die verantwoordelijkheid niet nemen, en nooit maatregelen zullen omarmen die haaks staan op hun commerciële belangen. Het jarenlange engagement van ngo's met Facebook en Google toont dit, en ook de feiten die mevrouw Haugen straks aan u voorlegt, onderstrepen dat beeld. Dat zijn wel de maatregelen die de samenleving van u nodig heeft. Pak het systeem aan, niet de symptomen, zeggen wij daarom altijd. Het Europees Parlement heeft een aantal voorstellen gedaan die precies dat doen. We hopen dat de lidstaten die voorstellen zullen omarmen. U vindt een overzicht van die maatregelen in de positionpaper die we met u hebben gedeeld.

Nogmaals bedankt voor de uitnodiging en voor het faciliteren van dit belangrijke gesprek. Dank u wel.

De voorzitter:

Dank alvast voor de inleiding, mevrouw Austin. Dan ga ik naar mevrouw Van Huijstee. Gaat uw gang.

Mevrouw Van Huijstee:

Goedemiddag, ik ben coördinator bij het Rathenau Instituut, waar we onderzoek doen naar en publiek debat stimuleren over impact van wetenschap, technologie en innovatie op ons leven. Mijn onderzoeksteam houdt zich met name bezig met de maatschappelijke verantwoordelijkheid van onlineplatforms in de digitale samenleving. Op basis van ons onderzoek wil ik in deze eerste drie minuten graag een aantal punten uitlichten, allereerst wat betreft de schadelijke systematieken in sociale media, waar u naar op zoek bent.

We deden op verzoek van het WODC onderzoek naar de aard, omvang en oorzaken van schadelijk en immoreel gedrag online. We hebben daarbij achttien onlinemechanismen geïdentificeerd die schadelijk gedrag kunnen inspireren en faciliteren. Ik noem er nu twee, namelijk de aandachtseconomie, waar mijn collega Austin het net ook al over had, en amplificatie. Veel van de inzichten van klokkenluider Frances Haugen, waar jullie straks mee spreken, houden hiermee namelijk verband.

Ten eerste de aandachtseconomie. Het verdienmodel van socialemediaplatformen is gebaseerd op advertentie-inkomsten. Het voordeel is dat gebruikers profiteren van gratis diensten. Sensationele en ongenuanceerde uitingen leveren echter relatief veel bereik en aandacht bij gebruikers op, en platformen verkopen deze aandacht van gebruikers aan adverteerders. Uit intern onderzoek van Facebook, dat Frances Haugen naar buiten bracht, komt naar voren dat de aanbevelingssystemen van Facebook sensationele, verdeeldheid zaaiende content voorrang geven.

Dan is er nog amplificatie. Socialemediaplatformen bieden een platform voor de verspreiding van particuliere opvattingen. Het voordeel is dat iedereen toegang heeft tot een podium en niet meer langs een redactie hoeft, maar er is ook een keerzijde. Er zit geen kwaliteits- of feitencontrole op de berichtgeving, omgekeerd zelfs, zoals ik net toelichtte. Bij het denken over de rol van platformen is het nuttig om een onderscheid te maken tussen freedom of speech en freedom of reach, dus vrijheid van meningsuiting en vrijheid van bereik. Op dit moment bepalen de socialemediaplatformen met behulp van hun aanbevelingssystemen welke inhoud wijdverspreid wordt, en welke niet. In die invloed over reach zit opiniemacht verpakt, met mogelijke impact op de democratie.

Dan de rol van sociale media bij radicalisering en polarisering. Een causaal verband is moeilijk aan te tonen. Dat komt doordat meerdere factoren een rol spelen, maar óók doordat platformen geen toegang geven tot benodigde data. Om de relatie tussen sociale media en polarisatie te begrijpen, is dus toegang tot informatie van de grote platformen nodig. In de Digital Services Act, die momenteel onderhandeld wordt in Europa, staan een aantal cruciale maatregelen om die toegang te vergroten. Die staan ook in onze positionpaper en die licht ik straks graag nog toe, als daar kans toe is.

Tot slot nog het volgende over de bescherming van de rechtsstaat en de democratie tegen schadelijke dynamieken online. De uitdaging hier is om de balans tussen vrijheid en veiligheid online te herstellen zonder in staatscensuur of staatssurveillance te vervallen. Dat is een blijvende zoektocht, waarover u in dit huis vast nog vaak zult spreken en waar wij graag een bijdrage aan leveren. In ons rapport Online ontspoord hebben we een strategische agenda voor de rijksoverheid ontwikkeld om schadelijk gedrag online tegen te gaan. Misschien kan ik dat straks ook nog toelichten in de rest van het gesprek. Hier hou ik het bij.

Dank u wel.

De voorzitter:

Dank ook voor uw bijdrage, mevrouw Van Huijstee. Dan zijn we aangekomen bij mevrouw Eringa.

Mevrouw Eringa:

Ik sluit mij aan bij een hele hoop van wat mijn collega's hiernaast reeds gezegd hebben. Ik breng nog even in herinnering dat mensen bij ons, het Commissariaat voor de Media, een aantal jaren geleden gewoon nog televisie zaten te kijken om te kijken wat er allemaal misging. Daar is dus ongelofelijk veel veranderd. Het Commissariaat voor de Media is niet een heel erg grote instelling. We hebben de afgelopen ...

(De bel gaat.)

Mevrouw Eringa:

Ik praat maar gewoon door. Ik weet ook niet of het zin heeft.

De voorzitter:

Ja, excuus. Het zijn de korte bellen. Bij de lange bel in de ochtend, als we de vergadering aftrappen, stoppen we even, maar zo'n seconde of vijf à zes kunnen we het net hebben, dus u kunt rustig doorgaan. U heeft al indruk gemaakt; u was gewoon onverschrokken door aan het praten. Dat is buitengewoon.

Mevrouw Eringa:

Ja, wat moet je anders in dit leven?

De voorzitter:

Gaat u vooral verder. Het is voorlopig ook klaar met de bel.

Mevrouw Eringa:

Heel goed. We hebben de afgelopen jaren gezien dat Nederland een aantrekkelijke vestigingsplaats is geworden voor een aantal grote platforms. Die zijn ook bij het Commissariaat onder toezicht gesteld. Dat is eigenlijk een hele nieuwe wereld, waarbij je heel goed moet kijken hoe je daar nou precies toezicht op houdt. Jullie hebben in de positionpaper ook kunnen lezen dat wij eigenlijk heel snel de leap forward naar Europa hebben gemaakt, omdat het verschijnsel van de grote platforms grenzeloos is. Die grenzen zijn er gewoon niet. Het is dus ook wel interessant dat jullie vragen naar de impact op ónze samenleving. Die is er op onze samenleving, maar andere samenlevingen hebben langs die weg ook weer impact op de onze. Het is dus eigenlijk een onoverzichtelijk veld.

Wij hebben er heel erg voor gekozen om ons zo veel mogelijk aan te sluiten bij de activiteiten die echt, in ieder geval in Europa, impact gaan hebben. Die Digital Services Act is een hele belangrijke. We hebben er ook voor gekozen om op een aantal plekken deel te nemen aan commissies die zich bezighouden met het vormgeven van allerlei maatregelen en regulering. Er is eigenlijk veel nodig. Tegelijkertijd is het ook ongelofelijk belangrijk om een balans te houden, want de weg van de inhoud is heilloos. De inhoud zou je toch eigenlijk wel zo veel mogelijk bij partijen moeten laten liggen die daarover gaan. Tegelijkertijd denken wij dat je, wil je op deze schaal toezicht kúnnen houden, eigenlijk naar een systeem toe zal moeten waarbij partijen in de positie komen dat they have to show us. Achter incidenten aan rennen heeft geen enkele zin. Er kan wel een enkele keer een incident zijn waarvan je zegt dat we daar nu echt iets mee moeten. Maar in z'n algemeenheid kunnen we beter de weg op gaan waarbij je aangeeft wat je wilt dat die platforms zélf doen en wat belangrijk is om te doen, en dan heel nauwgezet toezicht houden op de wijze waarop zij aan ons uitleggen dat ze dat doen.

Wij zijn overigens wel in gesprek met al die platforms. Ik herken ook het fenomeen dat ze onder enorme commerciële druk staan. Je ziet absoluut dat ze zich er wel van bewust zijn dat ze met een aantal zaken aan de slag moeten en dat ze ook met aan aantal zaken aan de slag zijn. Maar het is ook wel piepen en kraken onder de commerciële druk, die er gewoon is. Er treedt nu ook verzadiging op, waardoor de partijen de tijd die ze misschien hadden gecreëerd om een aantal zaken op orde te brengen, nu weer gebruiken om te produceren. We hebben met z'n allen de afgelopen twee jaar ook veel gekeken. Dat is dus wel een beetje de vicieuze cirkel waar ze in zitten.

Wij denken vooral langs de weg van Europa en – dat heeft u ook kunnen zien – mediawijsheid. Daar doen wij in Nederland wel het een en ander voor. Het Commissariaat voor de Media is daar niet specifiek voor opgesteld; er zijn andere partijen die dat doen. Maar wij hebben wel gezegd: er kan geen enkel toezicht op tegen mediawijsheid. Wij willen dat dus ook op alle terreinen enorm steunen. Dat onderwerp komt eigenlijk niet heel erg vaak aan de orde. Er gaan ook niet heel veel middelen in om. En toch is mediawijsheid eigenlijk dé manier om de bevolking in de volle breedte, volwassenen en kinderen, echt te leren zichzelf te beschermen, en vooral ook kinderen, denk ik, aangezien die nog het langst kijken op dit moment. Dat is het in grote lijnen.

De voorzitter:

Dank, mevrouw Eringa. U doet het bij voorbaat al prima. Als u niet spreekt, zet dan alstublieft uw microfoon uit. Anders blijft de camera u namelijk volgen. Degene die op de knop gedrukt heeft, krijgt ook de camera. U doet het al fantastisch. Heel goed. Dan ga ik naar de Kamerleden. Ik begin bij mevrouw Van Ginneken namens D66.

Mevrouw Van Ginneken (D66):

Dank u wel, voorzitter. Dank aan u alle drie dat u hier gekomen bent om uw visie en ervaringen te delen als het gaat om de impact van socialmediaplatforms op onze samenleving. Ik moet dan altijd kiezen met welke vraag ik ga beginnen. Dat wordt een vraag aan mevrouw Van Huijstee, omdat ik jullie rapporten Online ontspoord en Digitale dreigingen heb gelezen. Jullie zeggen daarin eigenlijk – u zei het net ook in uw verhaal – dat sociale media mechanismen in hun platforms hebben die schadelijk gedrag als desinformatie en haat inspireren en faciliteren, en dat platforms daar meer tegen zouden kunnen doen. Als ik het goed begrijp, dan zeggen jullie eigenlijk dat de werkwijze van de socialmediaplatforms niet de enige manier is om een goed socialmediaplatform vorm te geven. Dan is mijn vraag: wat voor andere mogelijkheden zouden deze platforms hebben om hun werking zodanig in te richten dat ze minder haatzaaien en minder desinformatie opleveren, maar nog steeds gezellige socialmediaplatforms zijn?

De voorzitter:

Ik vind het het makkelijkst te volgen, ook voor mensen die het op afstand volgen, als er meteen antwoord kan worden gegeven, als u dat wil. Ik zie dat u knikt. Ik zou dus zeggen: gaat uw gang, mevrouw Van Huijstee.

Mevrouw Van Huijstee:

Bedankt voor deze vraag. Mooi dat u die rapporten heeft bekeken. Het is wel direct een hele moeilijke vraag. Omdat we de aandachtseconomie net hebben benoemd als een belangrijke drijfveer voor het verspreiden van ... Door de bel heen praten doet u toch beter dan ik; ik vind het toch best wel afleiden! Nu ben ik even afgeleid.

Ja. Dat is natuurlijk ook het verdienmodel. Als je een commercieel platform hebt, dan zal dat moeten verdienen. Het verdienmodel bestaat nu uit de advertentie-inkomsten. Eerlijk gezegd heb ik er niet over nagedacht hoe de commerciële platforms een ander verdienmodel zouden kunnen hebben. Je kunt je wel voorstellen dat als je een non-profitmodel hebt, waardoor je de perverse prikkel van de adverteerders niet hebt, het dan een gezelliger platform wordt.

Het is misschien ook goed om te benoemen dat de aandachtseconomie en amplificatie heel erg spelen bij socialemediaplatformen als Facebook, TikTok en Instagram, maar Telegram is bijvoorbeeld niet gebaseerd op aanbevelingsalgoritmen of advertenties en daar gebeuren ook hele nare dingen. Daar kun je naaktbeelden en wapenhandel vinden en noem maar op. Daar spelen toch ook weer andere mechanismen een rol, dus van de achttien heb ik er nu maar twee toegelicht. Dat zijn dingen als syndicatie, het vinden van gelijkgestemden, dus dat je online makkelijk gelijkstemden kan vinden. Of het zijn dingen als ontmenselijking. Door het feit dat je elkaar niet ziet en het allemaal via schermpjes gaat, voelt het misschien minder echt en dat heeft een ontremmend effect. Dat zijn ook allemaal kenmerken die je zelfs bij een non-profit sociaal medium nog steeds zal hebben. In die zin is het helemaal niet zo'n makkelijk vraagstuk. We zien heel erg dat die mechanismen voordelen hebben, want we omarmen het internet en sociale media ook om de reden dat we gelijkgestemden kunnen vinden en met elkaar in contact kunnen komen. Ik denk dat we pas sinds kort beseffen en zien dat het ook nadelen heeft. We moeten nu gaan leren hoe we de voordelen behouden van de mechanismen waar we allemaal blij mee zijn en die vooruitgang hebben gegeven, en hoe we toch de rafelrandjes ervan afhalen. Het is een lang antwoord om eigenlijk te zeggen: het antwoord hebben we nog niet.

De voorzitter:

Mevrouw Van Ginneken, u heeft een vervolgvraag.

Mevrouw Van Ginneken (D66):

Dank voor het antwoord, mevrouw Van Huijstee. Het is inderdaad een puzzel. Als ik het me goed herinner, noemt u in het rapport wel een aantal denkrichtingen. Eén voorbeeld kan ik me nog herinneren, maar de andere vele voorbeelden heb ik niet paraat. U noemt in uw rapport volgens mij dat je er bijvoorbeeld aan zou kunnen denken dat je op een platform de groepsgrootte maximaliseert. U noemde net ook freedom of reach. Daarmee is het bereik van wat voor bericht dan ook, ongeacht de inhoud, altijd beperkt, zodat je op die manier een soort escalatie of het totaal uit de hand lopen van polariserende content kunt remmen. Dat staat me nog heel erg bij. Maar ik herinner me dat u veel meer ideeën had over dit soort technische ontwerpkeuzes in een platform. Kunt u daar nog iets meer over zeggen?

Mevrouw Van Huijstee:

Eerlijk gezegd heb ik die niet allemaal paraat. We hebben inderdaad een hele lijst met technische oplossingen in het rapport opgenomen die nu al worden geprobeerd, ook door alternatieve, kleinere platforms die het anders proberen aan te pakken. De aanbevelingsalgoritmes zijn een van de belangrijkste die we net ook hebben genoemd. Op dit moment zit in die aanbevelingsalgoritmes een keuze voor welke content wijd verspreid wordt. Laat dat nou net de content zijn die wat minder genuanceerd is en misschien extreme reacties oproept. Daar zit dus echt heel duidelijk een aangrijpingspunt en een noodzaak voor regelgeving. Zonder kaders daarvoor gaan die platformen dat immers niet aanpassen, omdat hun verdienmodel daar weer op gebaseerd is. Ik denk dat dat echt een hele logische is voor uw Kamer om aan te pakken en ook om aan te pakken via de Digital Services Act. Verder zijn er ook nog tal van technische oplossingen, maar dan moet ik echt even verwijzen naar het rapport. Ik kan de oplossingen eventueel ook nog nasturen.

De voorzitter:

Dank. Mevrouw Austin, een aanvulling.

Mevrouw Austin:

Ja, misschien kan ik nog aanvullen, want er zijn er inderdaad heel veel. We hebben zelf een designonderzoeker laten kijken naar welke kleine mechanismen allemaal aan het werk zijn op dat platform. Als je daarnaar kijkt, dan vraag je je af of het een ander effect zou hebben als je dat anders doet. Naast de aanbevelingsalgoritmen ligt daaronder een scheiding tussen wat we de «hostinglaag» en de «dienstenlaag» noemen. Facebook beheert alle gebruikers en de interface, maar bepaalt vervolgens ook zelf welke plug-ins boven op Facebook komen, net als dat Instagram bepaalt dat er Stories in komen. Als je die twee zaken van elkaar scheidt, dan kun je je voorstellen dat bijvoorbeeld de Tweede Kamer een aanbevelingsalgoritme op YouTube zou kunnen maken, dus dat mensen zich kunnen abonneren op de Tweede Kamer en dan van de Tweede Kamer getipt krijgen wat ze moeten luisteren. Maar je zou het ook open kunnen stellen voor andere partijen die plug-ins bouwen en die jou misschien wel meer inzicht geven in waarom je bepaalde content te zien krijgt. Dat is nu niet mogelijk.

Dan nog twee andere hele kleine tweaks die je zou kunnen maken. Ik geloof dat het in jullie rapport ook gaat over de waarde die toegekend wordt aan bepaalde reacties boven andere, dus de blije emoji's tegenover de boze emoji's. Het klinkt allemaal belachelijk dat we het daar in de Tweede Kamer over hebben, maar die likes zijn eigenlijk kleine markers voor de algoritmen van de platforms. Die vertellen ze hoe ze met die content om moeten gaan en hoe voor de hand liggend het is dat die content wijdverspreid gaat zijn. Als je dus kleine aanpassingen maakt in welke reacties mensen met één klik kunnen achterlaten, verandert dat compleet hoe mensen ermee omgaan.

Als je bijvoorbeeld naar YouTube kijkt, is het net als bij de krant «above the fold» en «below the fold»: iedereen kent alles wat bovenin op de voorpagina staat en de nieuwslezers weten alles wat onderin staat. Het is dus ontzettend belangrijk wat je in je homepagina toont wanneer je YouTube opent. Wat is daar op het scherm te zien? Op dit moment zie je de aanbevolen video's en weer die eenklikreacties. Pas als je verder naar beneden scrolt, kun je comments achterlaten en met anderen in gesprek gaan. Draai het eens om. Wat gebeurt er dan? Krijg je dan een veel kwalitatiever debat? We weten het niet, omdat YouTube op dit moment de enige is die de beslissingen mag maken.

De voorzitter:

Dank voor de waardevolle aanvulling. Dan zijn we aangekomen bij de heer Van Haga voor zijn vraag namens de Groep Van Haga.

De heer Van Haga (Groep Van Haga):

Dank u wel, voorzitter. Dank aan de dames voor hun inbreng. Mevrouw Van Huijstee zei net dat de zaken niet meer langs de redactie hoeven. Ik interpreteerde dat een beetje alsof dat slecht is, omdat er dan geen kwaliteitscontrole meer op zit, maar ik worstel daar een beetje mee. Het woord «desinformatie» wordt hier namelijk vaak gebruikt om aan te geven dat het heel slecht is. Maar desinformatie is ook vaak gewoon een wetenschappelijke of een politieke discussie. Ik vraag me dan af wat het risico voor de democratie is – u gaf daar net iets over aan – als je private bedrijven gaat laten bepalen, soms met grensoverschrijdende censuur, wat wel en niet gekwalificeerd wordt als desinformatie.

Mevrouw Van Huijstee:

Bedankt voor de vraag. Contentmoderatie an sich, dus het maken van de beslissingen over welke berichten wel en niet op het platform mogen, is gewoon een hele tricky business, of je dat nou bij het platform neerlegt of bij de Staat. Eigenlijk wil je beide partijen daar niet puur verantwoordelijk voor houden. Daar moet dus democratische controle op zijn. In de Digital Services Act is echt een van de grootste vragen hoe je dat nou doet. Eerlijk gezegd denk ik dat ze daarin wel een goede balans hebben gevonden door te zeggen: we gaan het alleen over illegale, echt strafbare content hebben. Daardoor hebben de platformen een plicht – dat geldt dus straks als het allemaal wordt aangenomen – om content te verwijderen. Dat is gecombineerd met klacht- en verhaalmogelijkheden, zodat de gebruiker wiens content is verwijderd, dat ook weer aanhangig kan maken. Dat is ook gecombineerd met een procedure waarbij de rechter ernaar kan kijken, zodat er echt onafhankelijk toezicht is.

Zodra het gaat over het schemergebied van schadelijke informatie en mogelijk desinformatie, moet het platform dat eigenlijk niet gaan doen. Dan heb je het over een hele belangrijke provisie in de Digital Services Act, namelijk dat ze risicoassessments en due diligence, gepaste zorgvuldigheid, gaan doen. Ze moeten dus hun risico's in kaart gaan brengen. Ze moeten daar maatregelen op gaan nemen en ze moeten daar verantwoording over afleggen. Op het moment dat ze dat gaan doen, kunnen wij beter het gesprek voeren over welke desinformatie er is, of we dat desinformatie noemen of niet en over welke maatregelen het platform heeft genomen. Want het platform mag natuurlijk zelf kiezen welke content het aanbeveelt, omdat het nog steeds een medium is zoals andere redacties, die dat ook mogen. Maar op het moment dat wij inzicht hebben in de risico's die er zijn ... Dat gaat eigenlijk over het type onderzoeken dat Frances Haugen naar buiten heeft gebracht. Dat type onderzoek gebeurt dus eigenlijk al, maar daar weten wij allemaal niks van. Dat type onderzoek zou systematisch, periodiek gedaan moeten worden. Daardoor zouden wij nu een veel beter geïnformeerd gesprek kunnen hebben over vragen als: welke beslissingen willen wij daar als samenleving over nemen? Welke beslissingen trekken we weg bij de platformen? Welke systemen kunnen we daaromheen bouwen? Hoe kunnen we de aanbevelingsalgoritmes anders inrichten?

Even afsluitend, want ik dwaal misschien een beetje af. Je wil niet één partij, niet een commerciële partij maar ook niet de Staat, op de stoel hebben zitten om te bepalen welke content wel en niet mag, buiten wat strafbaar en onrechtmatig is. Daar hou ik het bij.

De voorzitter:

Dank, mevrouw Van Huijstee. Meneer Van Haga, u heeft nog een aanvulling?

De heer Van Haga (Groep Van Haga):

Ik ben ontzettend blij met dit antwoord. Absoluut.

De voorzitter:

Ik ben altijd blij als commissieleden blij zijn. Gaat uw gang.

De heer Van Haga (Groep Van Haga):

Dit is eigenlijk precies waar ik naar op zoek was, want dat particuliere bedrijven dat niet mogen doen, is evident. Dat vindt iedereen. Maar het is natuurlijk ook heel belangrijk dat de Staat dat niet mag doen. Zeker in onzekere situaties – we hebben de hele situatie rond Trump gezien; we hebben natuurlijk twee jaar coronaverwarring achter de rug – is het belangrijk dat de waarheid boven tafel kan komen. Als een particulier bedrijf of de Staat één deel van de discussie gaat afschermen, dan is het heel belangrijk dat het inderdaad helder en zuiver gebeurt. Ik ben zelf verwijderd van allerlei platformen, dus ik heb het aan den lijve ondervonden. Mijn aanvullende vraag zou dan zijn: jullie bepleiten dus eigenlijk dat het enige criterium moet zijn – dat staat dan ook in de Digital Services Act – of het strafrechtelijk gezien een overtreding is of niet, en dat verder alles gewoon moet worden toegelaten?

Mevrouw Van Huijstee:

Als u het zo scherp stelt, dan zit het eigenlijk in de freedom of reach. Voor verwijderen geldt inderdaad: alleen verwijderen wat strafbaar en onrechtmatig is. Maar nu is het andersom. Vaak krijgt datgene wat opruiend is, wat ongenuanceerd is en wat de grootste schok oproept, juist voorrang. Dat is de andere kant van de medaille. Dat is weer het andere extreem. Dan zit je eigenlijk in het gebied van freedom of speech en freedom of reach. Nee, vrijheid van meningsuiting moet niet beknot worden waar die rechtmatig is. Maar we kunnen wel kijken naar de regelaar van welke meningen het grootste podium krijgen, daar meer toezicht op houden en meer inzicht in creëren, waardoor we beter kunnen begrijpen hoe dat gaat werken. Dat moet weer via de risicoassessments. Platformen moeten daar dus verantwoording over afleggen en moeten ook hun dilemma's op tafel gaan leggen. Dat is dus eigenlijk precies wat Frances Haugen heeft laten zien. Dat gebeurt gewoon. Alleen, we zijn daar bij toeval achter gekomen. Dat zou niet zo moeten. Dit is eigenlijk een startpunt. De Facebook Files geven zo veel inzicht in de dilemma's waar zij voor staan. Het is ook echt niet makkelijk om te weten wanneer ze welke regels moeten hanteren. Maar op het moment dat het open is, kunnen we daar ook debatten over voeren.

De voorzitter:

Mevrouw Eringa heeft een aanvulling.

Mevrouw Eringa:

Ik denk dat het volgende wel belangrijk is. Wij praten veelal over de platforms als een soort wezenloze dingen die van alles doen. Wat ze doen, kan ongelofelijk verkeerd lopen. Maar er zitten gewoon mensen achter. Het zijn gewoon organisaties. Als wij het nu hebben over redacties, dan relateren we dat aan een krantenredactie zoals we die van vroeger kennen. Maar er zijn ook andere vormen waarbij je een connectie kunt maken tussen waar een organisatie voor staat en je publiek. Je ziet ook in de beleggingswereld dat organisaties veel duidelijker moeten zijn. Waar sta ik voor? Hoe doe ik mijn zaken? Wat doe ik wel? Wat doe ik niet? Dat hangt dan allemaal samen met wel of niet investeren.

Het blijven toch nog steeds mensen die de organisaties aansturen. Met die mensen moet je wel echt blijven spreken. Die mensen moeten ook zelf iets gaan zeggen over hoe zij hun handel willen vormgeven. Daar moeten ze ook permanent over bevraagd worden, want wat vandaag nog in de hoek zit van heel vervelend en opruiend, kan binnen een aantal jaren ook strafbaar zijn. Dat is permanent in beweging. Ik denk dus wel dat we er ook op die manier naar moeten blijven kijken, want als we de platforms als amorf zien, dan hoeven we dit gesprek niet te hebben.

De voorzitter:

Dank voor uw aanvulling. Dat nodigt mevrouw Van Huijstee meteen uit tot een volgende aanvulling.

Mevrouw Van Huijstee:

Ja, inderdaad. Het is natuurlijk absoluut waar dat er gewoon mensen achter zitten. Ik vind het alleen soms ook lastig, want ... Hoe zal ik het zeggen? Alle mensen die daar werken, zullen het beste met onze samenleving voor hebben. Dat zijn geen kwade genieën die denken: laten we eens even lekker de polarisatie en radicalisering in de samenleving versterken. Dat denk ik echt niet. Volgens mij was de belangrijkste conclusie van, opnieuw, klokkenluider Haugen dat als publieke waarden en private belangen op gespannen voet staan, het bedrijf dan zal kiezen voor de private belangen, voor de winstmaximalisatie. Dat is wel degelijk een systeemaspect. Het zijn dus wel mensen die de beslissingen nemen, maar ze worden afgerekend door de kwartaalcijfers. In die zin zullen de commerciële belangen dus winnen als de publieke en commerciële belangen tegenover elkaar staan. Dat vind ik niet gek, want daar zijn ze voor. Dat is nou eenmaal hun rol. Daarom is het zo belangrijk dat we de kaders gaan stellen waarmee we zeggen: binnen deze publieke kaders mogen jullie je gang gaan.

De voorzitter:

Dank voor de aanvulling. Mevrouw Rajkowski namens de VVD, uw vraag.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Ik heb een vraag aan Bits of Freedom. In de positionpaper die jullie hebben gestuurd, vertellen jullie ook iets over manipulatief webdesign, dus de trucjes om ervoor te zorgen dat mensen misschien niet alleen langer op een platform blijven, maar ook ergens toestemming voor geven waar ze misschien geen toestemming voor willen geven, zoals de irritante cookiepop-ups, die we allemaal kennen. Ik heb in een van de vele onderzoeken ook gelezen dat 70% van de filmpjes die wij op YouTube bekijken, filmpjes zijn die YouTube ons zelf heeft aanbevolen. In die zin bepalen ze dus in flinke mate wat wij allemaal kijken, denken en voelen. Jullie geven nog een aantal andere voorbeelden. Zijn er nog meer voorbeelden te noemen van manipulatief webdesign?

Mevrouw Austin:

Ja, zeker. Eén voorbeeld dat misschien iedereen wel herkent, is het feit dat je privacyinstellingen op deze platforms vrij moeilijk te vinden zijn. Je moet heel vaak door iets van drie menu's en dan zit er, eigenlijk waar je het net niet had verwacht, een schuifje. Daarvan is dan ook weer onduidelijk of dat aanstaat of niet en wat er gebeurt als dat naar links gaat. Dat kennen we in heel veel verschillende vormen.

Een ander voorbeeld – dat is weer iets anders – is dat van «above the fold» en «below the fold». Daar had ik het net over. Ik denk dat de consentpop-ups eigenlijk nog het meest helder laten zien hoeveel impact zo'n kleine designingreep kan hebben. De Belgische toezichthouder heeft toevallig deze week gezegd: toestemming die via zo'n pop-up verkregen is, is niet geldig volgens de AVG. Dat gaat dus weer hele grote gevolgen hebben voor dit soort dark patterns, ook op andere plekken dan als het ware in het toestemmingsveld. Binnen de meer transactionele webomgevingen kennen we ze ook. Ik geloof dat Ryanair altijd het meest aangehaalde voorbeeld is, waar je als je niet oplet drie verzekeringen en twee extra koffers hebt afgerekend. Dat zien we heel veel op het web. Ik denk dat dat langzaam uit het systeem raakt, zowel door wetgeving als door handhaving als door wat mensen gewend zijn.

De voorzitter:

Dank. Mevrouw Rajkowski, een aanvulling.

Mevrouw Rajkowski (VVD):

Dank. Dan kan ik ’m misschien doorpakken richting het Rathenau Instituut. In jullie informatie naar de Tweede Kamer hebben jullie het er inderdaad over dat er meer data en informatie nodig zijn om de relatie tussen sociale media en polarisatie te begrijpen. Nu heb ik daar natuurlijk een bepaald beeld bij, maar ik zou ook graag van jullie willen horen naar welke data of welke informatie jullie specifiek op zoek zijn om het nog beter te begrijpen.

Mevrouw Van Huijstee:

Opnieuw gaat het dan eigenlijk om informatie over hoe ze de aanbevelingssystemen inrichten en hoe die werken. Dat wordt op dit moment als bedrijfsgeheim gezien, terwijl het inderdaad ons denken en voelen erg beïnvloedt, zoals je net zelf al zei. Daar zouden we dus meer inzicht in willen. Dat geldt ook voor het type onderzoek dat zij zelf doen. Wat is het effect van Instagram op tienermeisjes? Of wat voor illegale, strafbare content wordt er in Myanmar gedeeld op platforms waarop geen Engels wordt gesproken? Dat is dus eigenlijk precies het type onderzoek dat al intern is gebeurd, maar waar wij nu geen inzicht in hebben.

De voorzitter:

Dank u wel. Mevrouw Austin, een aanvulling.

Mevrouw Austin:

Naast de vraag over welke specifieke data nodig is, kan ik me voorstellen dat we willen dat onafhankelijke onderzoekers zoals het Rathenau daar toegang toe hebben, omdat wie vraagt ook bepaalt. Op dit moment is het dus zo dat alleen de platformen mogen bepalen welke vragen er überhaupt gesteld en beantwoord gaan worden. Dat zijn vragen die in het belang van de platformen zijn, en niet in het publieke belang. Naast de controlerende functie die toegang tot data kan hebben, is er dus een vraagstuk rondom de macht van degene die bepaalt welke vragen gesteld worden. Frances Haugen is daar ook een goed voorbeeld van. Als Rathenau dat onderzoek uitvoert, dan vertrouw ik erop dat de resultaten daarvan ook wat minder makkelijk onder de tafel worden geveegd dan wanneer het alleen maar intern gebeurt. Dus dat is ook nog een dimensie om mee te nemen.

De voorzitter:

Dank voor uw aanvulling. Mevrouw Van Weerdenburg namens de PVV.

Mevrouw Van Weerdenburg (PVV):

Dank, voorzitter. Ik had een vraag voor mevrouw Eringa, die wat mij betreft een hele goede inbreng had. Ze zei: «Laten we ook eens kijken naar de weerbaarheid van de eindgebruiker. De discussie over het reguleren van socialmediabedrijven gaat al heel snel de kant op van het aanpakken van desinformatie. Dat is eigenlijk top-down. Moeten we niet eens kijken naar het weerbaar maken van de eindgebruiker?» Wat mij betreft moet dat absoluut. Ze zei dat er al heel veel gebeurt nu de DSA en de DMA er zijn of komen. Het beoordelen of iets een extreme uiting is, is eigenlijk per definitie al een inhoudelijk waardeoordeel, een inhoudelijke toetsing. Wat ziet u gebeuren bij socialmediabedrijven als zij straks een risicoassessment of duediligenceonderzoek moeten doen? Krijg je dan niet een soort chilling effect waardoor ze toch gaan censureren en toch de inhoud gaan beoordelen om straks maar niet tegen de aansprakelijkheid aan te lopen?

De voorzitter:

Voordat u antwoordt, mevrouw Eringa, het volgende. Wij gebruiken altijd heel veel afkortingen. Voor de mensen thuis zeg ik dat DSA de Digital Services Act is en DMA de Digital Markets Act. Het zijn richtlijnen vanuit Europa die hier geïmplementeerd moeten worden. Ga uw gang, mevrouw Eringa.

Mevrouw Eringa:

Ik zei net al dat u een heleboel dingen tegelijk bij elkaar brengt. Er gebeurt eigenlijk al heel veel. Er is bijvoorbeeld een klein onderdeel dat is ondergebracht bij Beeld en Geluid dat zich richt op jonge mensen die moeten leren te beoordelen waar ze naar kijken. Dat is ook een groeipatroon. Zelfs als volwassene denk je soms toch: hé, dat had ik een tijd geleden niet in de gaten, maar nu zie ik het wel. We hebben in onze strategie gezegd dat wij, ondanks dat wij daar niet zelf voor opgesteld staan, zo veel mogelijk support bieden voor mediawijsheid. Elke keer zeggen we: hier moet je heel veel aan doen. Dat moet je in de breedte doen, niet alleen bij jonge kinderen. Dat moet je vrij lang volhouden. Je moet het ook ergens buiten school zien te organiseren. Je moet het ook organiseren voor mensen die er pas op wat meer volwassen leeftijd mee in aanraking komen en er soms ook enorm gevoelig voor zijn. Dat is een ding dat heel veel aandacht verdient. Daar kan weinig tegenop, denken wij, los van het feit dat je bepaalde zaken gewoon moet regelen.

Het tweede is – en dat is waar wij als Commissariaat veel meer over gaan – het systeemtoezicht. Ik zou bijna zeggen dat dat een weg van vallen en opstaan is; het is zoeken. Je gaat het op enig moment eens worden over de elementen die telkens in het toezicht op deze organisaties aan de orde moeten komen en over de onderwerpen waarop de organisaties goed aan zelfonderzoek moeten doen. Wij denken zelf ook al in de richting van naleving van een keurmerk, waarbij ze moeten zorgen dat ze op grond van de richtlijnen die we met elkaar hebben afgesproken, goed aan zelfassessment en risicoassessment doen, en waarbij ze een andere partij laten kijken of het goed genoeg is. Dan kunnen wij, met de middelen die we hebben, er beter toezicht op houden. Dan gaat het systeem ook beter sluiten. Je zou dus eigenlijk willen dat je deze partijen niet alles zelf laat doen. Naarmate je dingen vaker doet en er vaker discussies over hebt en op aangesproken wordt, kunnen ze een hoop zelf doen en krijgt dat ook wel wat vorm. We kunnen niet van de vloer naar de zolder met dit onderwerp, hè? Dit heeft tijd nodig. Maar als je dat goed inricht en je blijft het structureel doen, ga je verschil zien tussen partijen. Wie stelt zich coöperatief op

Ik kom dan toch nog even terug op wat eerder werd gezegd. We gaan er toch een beetje van uit dat de meeste mensen echt goede bedoelingen hebben, maar met de beste bedoelingen kun je nog een heleboel schade aanrichten. Het gaat er dus ook om dat al die mensen in de organisaties beter weten wat zij voor hun deel van het werk moeten doen in dat grote geheel, omdat hun organisatie daarvoor wil staan. Los van alle technische ingrepen die je kunt doen, moeten we ook werken aan dat partijen zelf moeten aangeven waar ze voor staan en wat ze niet willen. Daar kan je ze dan ook beter aan houden

De voorzitter:

Nog een aanvulling, mevrouw Van Weerdenburg?

Mevrouw Van Weerdenburg (PVV):

Nee, maar ik zie dat mevrouw Van Huijstee nog iets wil zeggen.

De voorzitter:

Dat heeft u heel scherp gezien. Mevrouw Van Huijstee voor een aanvulling.

Mevrouw Van Huijstee:

Ja, ik wil nog even ingaan op het chilling effect: zou die duediligenceverplichting dan niet een chilling effect hebben? Ik denk dat het chilling effect met name in die verplichting om content te verwijderen zou zitten op het moment dat het onduidelijk is. Als je «schadelijk» zou gebruiken, is dat zó ongrijpbaar. «Illegaal» en «strafbaar» zijn nog enigszins duidelijk, maar «schadelijk» is minder duidelijk. Dan zou je echt een chilling effect kunnen krijgen als je platformen ervoor aansprakelijk zou stellen om dat soort content te verwijderen, omdat ze dan zullen gaan oppassen: «laat ik dan maar het zekere voor het onzekere nemen». Het interessante van due diligence is juist dat het een procesbenadering is en dat je ze eigenlijk ook echt de dilemma's voorlegt: weeg inderdaad maar eens af wat eigenlijk desinformatie is en hoe je de veiligheid en vrijheid van meningsuiting balanceert. Dat is ontzettend ingewikkeld. Waar je ze op afrekent, is dat ze die openheid geven. Je rekent ze niet af op de keuze. Stel je voor dat ze één jaar hebben gerapporteerd. Daarvan heb je als democratie gezegd: we verwachten nu het volgende van je. Dan kunnen ze het volgende doen. Dat is een leerproces. Eigenlijk worden ze alleen afgerekend als ze niet meewerken aan het leerproces, maar er zit dus niet een harde grens in. Dat maakt het juist zo'n geschikt instrument in zo'n complexe afweging.

De voorzitter:

Dank voor uw aanvulling.

Mevrouw Van Weerdenburg (PVV):

Een hele kleine vervolgvraag. Volgens mij heeft – toen nog – Facebook een jaar of twee jaar geleden besloten om zwartepietplaatjes niet meer toe te staan. Is dat nou typisch zo'n voorbeeld van een door u genoemde keuze van zo'n bedrijf en is dat dan subject aan «willen we dat, ook een politieke discussie?».

Mevrouw Van Huijstee:

Ja, dat is een goede vraag. Op het moment dat het hier nog niet strafbaar is om zwartepietplaatjes te delen, zou dat inderdaad zo'n onderwerp zijn. Dat zou dus een onderwerp zijn waar Facebook over rapporteert en zegt: in onze due diligence zien we dat we hier moeite mee hebben en daar hebben we deze en deze afweging over gemaakt. Dan kun je daar vervolgens het gesprek dus over aangaan. Ja.

De voorzitter:

Dank. Mevrouw Bouchallikh, namens GroenLinks.

Mevrouw Bouchallikh (GroenLinks):

Dank, voorzitter. Dank ook aan onze gasten hier vandaag. Ik zou terug willen komen op een aantal punten die zijn gemaakt. Ik denk dat mijn vraag aan allen gericht is. Die gaat onder andere over de platformlogica, die eigenlijk vaker wel dan niet ten koste gaat van het publieke belang. Er is een aantal keren over gesproken dat er ook mensen achter de organisatie zitten die soms onder druk van commerciële belangen bepaalde keuzes moeten gaan maken. Maar volgens mij is dat niet zozeer druk maar een keuze. We hebben bij hoorzittingen en op allerlei andere momenten en plekken vaker gezien dat als duidelijk is dat een keuze die sommige platforms maken, ten koste gaat van democratie en vrijheid, de commerciële belangen vaak alsnog vooropstaan. We hebben het zojuist ook gehad over technische alternatieven tot aan emoji's toe. Op zich liggen er eigenlijk dus al heel veel mogelijkheden en ideeën op een presenteerblaadje. Die worden aangereikt door allerlei goede organisaties, zoals door jullie, maar ik vraag me af wat er nodig is om deze platforms zover te krijgen dat ze inderdaad die handschoen oppakken, eindelijk aan de slag gaan en niet alleen voor die commerciële belangen kiezen maar echt voor de verantwoordelijkheid die zij als platform hebben. Dat mis ik een beetje. Er zijn allemaal oplossingen, analyses en onderzoeken, maar wat kunnen wij – misschien via de wet of via de DSA – meer doen om hen te helpen om die verantwoordelijkheid eindelijk te nemen?

De voorzitter:

Zullen we een rondje maken? We beginnen bij mevrouw Austin, die al meteen een vinger opstak. Ik zag mevrouw Eringa nog even nadenken; daar heeft ze nog even tijd voor en dan kan zij zich laten inspireren door het antwoord van mevrouw Austin en dat aanvullen. Ik maak gewoon een rondje. Mevrouw Austin.

Mevrouw Austin:

Dank je wel. Dat is een hele goede vraag. Ik denk dat ik er met betrekking tot de houding van de mensen achter deze bedrijven een beetje anders in sta. Aan de ene kant doet het er totaal niet toe wie daar zitten. Het gaat om de impact die deze bedrijven hebben op de samenleving. Anderzijds hebben we het hier steeds over «een commercieel belang» alsof het enige logische gevolg daarvan is dat dat in strijd is met het publieke belang. Dat is onzin. Naar mijn mening zouden er heel veel verschillende aanbieders, waarvan sommige publiek en sommige niet-publiek, commerciële én zelfgebouwde hobbyplatforms, allemaal naast elkaar moeten bestaan. Dan heb je volgens mij heel veel van deze problemen niet meer. Als je heel graag plaatjes van Zwarte Piet wilt delen, kun je dat dan op een platform doen waar mensen dat leuk vinden en waarvan het platform zegt: daarvoor ben je hier welkom. Als je dat niet wilt en als je je daar niet fijn bij voelt, ga je naar een ander platform. Ik zeg weleens gekscherend dat als Bokt, een van de grootste fora van Nederland – dat is een paardenforum – besluit dat het op zijn forum geen plaatjes wil van honden, ik vind dat het dat zelf zou mogen bepalen. Op dit moment is er voor mensen simpelweg niet de keuze om te zeggen: ik vertrek naar een alternatief platform. De consumentenmacht, een van de standaardcorrectiemechanismen, werkt dus totaal niet.

Eigenlijk zeggen wij dus dat alle maatregelen die worden genomen, niet moeten gaan over de inhoud van wat mensen delen of over aansprakelijkheid voor platforms, maar dat zij puur gericht moeten zijn op ervoor zorgen dat de dominantie van die paar partijen gebroken wordt. Interoperabiliteit is dan dus een hele grote. Die doorbreekt het netwerkeffect. Dan hoef je niet opeens je hele hebben en houden te verliezen als je besluit dat je WhatsApp niet meer een leuk platform vindt. De op tracking gebaseerde advertentie-industrie, die eigenlijk heel veel van deze onzin bekostigt, moet aan banden worden gelegd. Als je daar die prikkel en die commerciële incentive wegneemt voor die hele attention economy, de beïnvloeding die dat allemaal faciliteert, dan zul je zien dat er veel innovatie is en dat er veel meer geconcurreerd wordt op de kwaliteit van dienstverlening in plaats van op de vraag wie de grootste is.

Mevrouw Van Huijstee:

Ik sluit me daar eigenlijk helemaal bij aan. Puur die dominantie, waardoor we zo weinig keuzevrijheid hebben als consumenten, is een van de problemen. Dan zitten we ook meteen bij de Digital Markets Act. Daarmee probeert men hier wat aan te doen. Misschien gaat dat nog niet ver genoeg om die dominantie echt te breken, maar het is in ieder geval wel een eerste stap. En toch opnieuw: kaders stellen en zeggen binnen welke kaders je als bedrijf je winst mag maximaliseren en die commerciële belangen mag nastreven. Dat is gewoon heel belangrijk, want dat zal dat bedrijf doen en daar zijn ze ook voor. Maar we hebben eigenlijk gewoon heel lang niet op zitten letten. We hebben vooral de vrijheid en de vooruitgang gevierd. We zijn nu een inhaalslag aan het maken, waarbij we toch weer even moeten zeggen: tot hier en niet verder, en misschien wel een stapje terug; dit zijn de regels voor contentmoderatie, dit zijn de regels voor klacht en verhaal, dit zijn de regels voor risicoanalyses en daar rekenen we jullie op af. Ik denk dat de digital services coordinator, die er waarschijnlijk met de Digital Services Act gaat komen, potentieel een heel belangrijk orgaan gaat worden om hier een rol in te spelen in Nederland. Ik voorzie dus ook dat we het daar misschien nog veel meer over moeten hebben: hoe wordt die nou opgetuigd om ook binnen Nederland een goede toezichtrol te vervullen?

Mevrouw Eringa:

Wat beide dames aan mijn linkerkant betogen, is gewoon een oude wet: een goed werkende democratie is gebaat bij pluriformiteit in de media. Die pluriformiteit, veiligheid en toegankelijkheid zijn te allen tijde de belangrijkste aspecten. Die moeten inderdaad vorm krijgen. Een belangrijk element in dit hele verhaal is ook dat men denkt dat er enorme schaalvoordelen worden gecreëerd, bijvoorbeeld door content eindeloos te herhalen. Daar mis je ook ontzettend veel pluriformiteit. Je moet er dus eigenlijk op gericht zijn om die toegang, die pluriformiteit, al die verschijningsvormen, toch de ruimte te bieden. Zolang je daar nog niet bent – ik ga toch nog een keer terug en ik ga toch even met u mee – zul je je moeten blijven verhouden tot die partijen die die enorme space hebben ingenomen. Want doordat ze dat hebben kunnen doen, zitten ze er nu en zijn wij allemaal eigenlijk aan het kijken: o jee, hoe moet je hier nou mee omgaan? Dit is bij alle andere bedrijven in deze wereld ook zo. Een bedrijf behoort gewoon een goede strategie te hebben en behoort te vertellen: dit is waar ik van ben, zo doe ik mijn zaken, dit doe ik wel en dat doe ik niet; daar mag u mij op aanspreken. Dan kom je bij dat fenomeen van due diligence terecht. Daar moet je gewoon aan beginnen, want terwijl je dat doet, zul je zien dat daar verbeteringen komen.

De voorzitter:

Mevrouw Bouchallikh, een aanvulling.

Mevrouw Bouchallikh (GroenLinks):

Ja, ik heb een aanvullende vraag. Dank voor de antwoorden. Mevrouw Van Huijstee gaf aan dat het belangrijk is dat we wat meer kaders gaan stellen. De DSA en de DMA komen eraan. Waar ik nog nieuwsgierig naar ben – dat is deels ook een soort procesmatige zoektocht vanuit de Kamer – is wat volgens jullie het deel is wat nationaal misschien wat meer opgepakt zou kunnen worden om die kaders te ontwikkelen. En wat zouden we bij wijze van spreken kunnen overlaten aan de Europese ontwikkelingen?

Mevrouw Van Huijstee:

Heel erg bedankt voor die vraag. We hebben in het rapport Online ontspoord ook een strategische agenda ontwikkeld voor de rijksoverheid. De eerste lijn is herinrichting van de onlineomgeving. Daar hebben we het nu eigenlijk vooral over gehad. Dat is echt een Europese aangelegenheid; dat kun je niet als Nederland alleen. Maar we hebben nog drie andere lijnen. De tweede is: normen verhelderen, omdat er online echt een normvervaging plaatsvindt. Er zijn zelfs concepten als «morele mist» en «digital drift». Dat zijn allemaal concepten om aan te geven dat we online eigenlijk niet zo goed weten «hoe het heurt». Dan komen we ook uit op mediawijsheid. Dat noemen wij «technologisch burgerschap»: burgers in staat stellen om hun rechten en zelfs ook hun plichten ook in de digitale wereld te gelde te maken. Daar kun je als Nederland echt veel aan doen in termen van onderwijs en capaciteitsversterking. De derde hele belangrijke lijn is: mensen beschermen en slachtoffers bijstaan. De houding, bijvoorbeeld ook bij de politie, is nu vaak: als het niet strafbaar is, kunnen we er niks mee. Of zelfs: als het strafbaar is maar als de dader onzichtbaar is – dat is online heel vaak zo – kunnen we er niks mee; doe dus maar geen aangifte. Maar er zijn toch wel slachtoffers en daarmee schade. Ook dat ondermijnt weer het vertrouwen in de rechtsstaat. Er zouden dus echt programma's kunnen komen en ontwikkeld kunnen worden, zowel bij hulpverlenersorganisaties als bij handhaving, om ook dat soort slachtoffers – slachtoffers in de brede zin – toch te ondersteunen, door te verwijzen en te helpen. De vierde lijn hebben we «versterking van het adaptief vermogen» genoemd, maar dat is eigenlijk het lerend vermogen: zorg dat je netwerken opbouwt, kenniscoördinatoren instelt, dit soort fenomenen blijvend volgt en niet één keer in het jaar zo'n rondetafel hebt maar gewoon mensen hebt die dit continu bijhouden. Want het is een veranderend fenomeen. Als je die risicoassessments blijft bespreken en als daar een proces op gang komt, ga je als samenleving ook echt leren. Dat zou dus mijn antwoord zijn.

Mevrouw Eringa:

Onlangs is een samenwerking tot stand gekomen tussen de Autoriteit Persoonsgegevens, de ACM, de AFM en het Commissariaat voor de Media, omdat dit fenomeen natuurlijk door alle vakgebieden heen speelt. Je moet de handen dus echt ineenslaan. Een van de dingen die daarbij belangrijk gaan worden is de Digital Services Act. Als het een beetje meezit, gaat die wet echt wel heel veel brengen. De tijd die we nu hebben, zouden we ook echt moeten besteden aan hoe we dat nou laten landen. Hoe gaan wij ervoor zorgen dat er geen hiaten ontstaan tussen wat die act allemaal in zich heeft en hoe wij er uiteindelijk mee omgaan? We moeten de tijd nu vooral gebruiken om dat ding echt goed te laten landen. Ik denk namelijk: het is niet altijd óf Europa, óf Nederland. Dat heb ik ook in mijn positionpaper geschreven. Wij kunnen ontzettend veel doen. Wij doen ook heel veel middels ERGA. Zorg dat je in die commissies zit, zorg dat je aan de tekentafel zit, in die ontwerpruimte, want daar moet je je slag uiteindelijk slaan. We kunnen een hoop doen. Alleen moeten we ook een beetje opschieten.

De voorzitter:

Ja, dat klinkt eenvoudig maar het is in de politiek soms lastig. Ik kijk of er nog vragen zijn. Mevrouw Van Ginneken.

Mevrouw Van Ginneken (D66):

Ja dank, voorzitter. Dank voor deze mooie uitwisseling tot nu toe. Er zijn een aantal belangrijke noties gedeeld. Eigenlijk zouden we pluriformiteit willen, want dan lost onze consumentenmacht het probleem vanzelf op, maar we stellen ook vast – ik maak het even heel plat, want ik zie alle wenkbrauwen bewegen – dat er echt wel dominantie is van een aantal partijen. De grote vraag is hoe wij vanuit het publieke belang die partijen het goede kunnen laten doen. Jullie spreken eigenlijk over kaders en transparantie. Ik stel met best wel veel verdriet vast dat die partijen nu zelf hun kaders bepalen. Eigenlijk bepalen zij zelf de regels. Ik ben het met mijn collega naast mij eens dat het niet zo zou moeten zijn dat wij dan als overheid zeggen: dat gaan wij helemaal voor jullie doen. Ik ben het overigens niet eens met de vaststelling dat desinformatie onderdeel is van een wetenschappelijk debat. Volgens mij zijn dat wel verschillende dingen.

Mijn vraag is de volgende. Als je worstelt met begrippen als «desinformatie» en «wetenschappelijk debat», als die door elkaar gaan lopen, hoe ga je dan vormgeven aan de opiniemacht die deze grote platforms hebben? Mevrouw Eringa, of het Commissariaat voor de Media, moet ik zeggen, heeft die term in onderzoek heel nadrukkelijk genoemd. Ik hoorde mevrouw Van Huijstee hem net ook noemen. Als deze platforms eigenlijk opiniërend zijn, net zoals een krant, waarom werken ze dan niet net zoals een krant? En wat zouden ze moeten doen om wel zo te gaan werken?

De voorzitter:

Ik zie mevrouw Eringa nog wat nadenken. Mevrouw Van Huijstee denkt: dan ga ik als eerste. Gaat uw gang.

Mevrouw Van Huijstee:

Ik zat inderdaad even naast me te kijken. Ja, ik denk dat de sleutel een beetje zat in wat mevrouw Austin net zei, namelijk – en dan zijn we weer bij het aanbevelingsalgoritme – als je daar zelf als gebruiker meer keuze in zou hebben, als dat dus niet vóór jou werd bepaald, maar je er zelf in kon kiezen, dan zou het meer werken als een krant. Want dat doen wij nu ook al. Wij lezen allemaal verschillende kranten en krijgen zo ook verschillende tinten mee. We kijken andere programma's, andere zenders. Zodra je daarin meer te kiezen hebt – het hoeft niet eens te gaan om keuzevrijheid tussen platforms, maar gewoon binnen wat je toegesneden krijgt – dan krijg je al meer pluriformiteit. Dan is die opiniemacht ook direct verminderd, zou ik in eerste instantie zeggen.

Mevrouw Eringa:

Mag ik daarover iets aanvullen? Er is één ding wat daaraan niet helemaal klopt. Wij hebben dit probleem bij de pers ook, bij kranten. Wij hebben de afgelopen jaren enorme fusies gezien. Dat gaat ook eigenlijk nog steeds door. Wij weten gewoon – en dan kom je weer op het principe terug – dat je voor een goed werkende democratie ook lokaliteit nodig hebt. Er moet originele lokaliteit zijn. Die is er maar heel matig. De mensen in de regio krijgen door de bank genomen vanuit enkele concerns zaken voorgeschoteld en het enige wat ze kunnen doen, als ze niet geïnteresseerd zijn, is het niet lezen. Er is dan niet veel anders. Pluriformiteit is wel een ding. Als we alleen maar naar de commerciële belangen gaan kijken, en die de vrije ruimte laten, dan wordt dat minder en minder. Het is dus niet zo dat het voorbeeld genomen kan worden aan andere, traditionele media, want die kennen hetzelfde probleem. Niet om te deprimeren, hoor, maar ...

De voorzitter:

We zijn altijd moeilijk van ons stuk te krijgen hier. Meneer Van Haga.

De heer Van Haga (Groep Van Haga):

Volgens mij zijn mevrouw Van Ginneken en ik het wel eens, want desinformatie is natuurlijk geen onderdeel van een wetenschappelijk debat. Mijn punt was meer dat desinformatie voor de een desinformatie is, maar je kunt het eens of oneens zijn en het kan onderdeel zijn van een meningsverschil. We hebben in de coronacrisis gezien dat heel veel hoogleraren het een zeggen en andere hoogleraren het ander zeggen. De ene onderzoeker zegt het een, de andere onderzoeker zegt het ander. Dat moet onderdeel zijn van het debat. Om terug te komen op wat mevrouw Van Huijstee net zei, dat er publieke en private belangen zijn die dan altijd in het voordeel uitvallen van de private belangen voor zo'n bedrijf. Is het niet zo dat er nog iets anders achter zit? Er zitten natuurlijk mensen achter en die mensen hebben gewoon meningen en voorkeuren. Zit er naast die private belangen niet nog een politiek of een emotioneel of een moreel belang? Als Mark Zuckerberg veganist is, vindt hij het misschien heel erg leuk om alleen maar dat soort dingen te propageren. Of als hij tegen vaccinaties is, gaat hij dat misschien doen. Daarom vond ik dat paardenvoorbeeld wel een leuk voorbeeld. Dat is natuurlijk de macht die ze hebben. Dat is niet door de kwartaalcijfers beïnvloed en ook niet door het publieke belang, maar gewoon door het persoonlijk belang van een mens die daar zit. Ik heb vlak voor de verkiezingen gemerkt dat er gewoon menselijk ingrijpen was. Ik vraag me dan af hoe jullie daartegen aankijken en hoe je die menselijke voorkeur eruit zou kunnen halen.

Mevrouw Van Huijstee:

Ja, daar heb ik eigenlijk geen pasklaar antwoord op. Ik denk toch door democratische controle. Ik ben het helemaal met u eens dat er een menselijke voorkeur zal zijn. Dat is zo. Binnen de wettelijke kaders die we stellen, mogen platformen natuurlijk ook zeggen dat ze alleen maar kattenfilmpjes willen en verder niets of dat ze het alleen maar over Zwarte Piet willen hebben en verder niet. Dus dat mogen ze zeggen. Dus daarin zit al een menselijke voorkeur. Maar het wordt inderdaad een probleem als er maar een paar dominante partijen zijn die dat voor ons allemaal kunnen beslissen, en dan komen we weer op het belang van die pluriformiteit en keuzevrijheid. Maar wat er nu in die DSA zit, wat echt wel heel interessant is, is dat daarin dat klacht-en-verhaalmechanisme toch wel strak wordt opgetuigd. Waar je nu het geluk moet hebben dat iemand reageert op je klacht en die oppakt, is dat straks aan bepaalde voorwaarden verbonden. Er moet over termijnen gerapporteerd worden. In die zin heb je dan in ieder geval nog de mogelijkheid om te corrigeren op menselijke voorkeur die nadelig uitpakt voor gebruikers.

De voorzitter:

Mevrouw Austin, gelet op de tijd graag een korte toelichting.

Mevrouw Austin:

Ja, natuurlijk zitten er menselijke voorkeuren in. Maar als ik bijvoorbeeld Facebook neem, een heel Amerikaans voorbeeld, zien we ook wel dat Facebook een even grote vriend was van Obama als van president Trump. Ik denk toch dat we over het geheel genomen wel kunnen zeggen dat de partijen gaan staan naast degene van wie ze denken dat ze daar het meest kunnen halen. Dat is denk ik over het algemeen degene die de status quo vertegenwoordigt.

De voorzitter:

Mevrouw Rajkowski, uw vraag.

Mevrouw Rajkowski (VVD):

Dank, voorzitter. Een vraag over interoperabiliteit. Ik gebruik voornamelijk WhatsApp. En dat is niet omdat ik dat wil, maar omdat mijn hele sociale leven op dat platform zit. Ik heb wel Signal en mevrouw Van Ginneken en ik zijn steevast uit principe via Signal aan het communiceren. Maar ik denk dat daar een hele grote groep toch wel alleen in staat. Dus het zou fijn zijn als we al dat soort platformen aan elkaar kunnen koppelen en dat je zelf kan kiezen welk medium bij je past en je fijn vindt. De een zal misschien kiezen voor iets wat er mooi uitziet, een ander zal voor privacy gaan. Het zou fijn zijn als die vrijheid er is. Op Europees niveau wordt erover gepraat hoe we dat kunnen organiseren. Een stukje zit inderdaad in die Digital Services Act. Mijn vraag is welke aanvullende stappen we in Nederland al kunnen zetten om dit ook in Nederland goed genoeg te regelen.

De voorzitter:

Mevrouw Austin, over de aanvullende stappen in Nederland.

Mevrouw Austin:

Er zit een stukje in de DMA, die nog uitonderhandeld moet worden. De eerste concrete stap die we kunnen zetten, is zorgen dat Nederland zich in de Raad hardmaakt voor dat artikel, voor die artikelen. Het andere dat we in Nederland kunnen doen, is zelf investeren in de markt, bijvoorbeeld door alternatieven te stimuleren. Het derde dat we kunnen doen in Nederland is zorgen dat het recht op versleuteling, dat ten grondslag ligt aan heel veel van de meer privacyvriendelijke alternatieven, overeind blijft.

Mevrouw Van Weerdenburg (PVV):

Ik heb mij een beetje verbaasd over de discussie van net over pluriformiteit. Ik hoorde bijna een pleidooi in de zin van: ieder zijn eigen platform. Dan denk ik: hoe saai zou het zijn als we op Twitter geen politieke fitties meer hadden tussen bijvoorbeeld de heer Wilders en de heer Azarkan? Is dat niet juist de kracht? Er werd gezegd: we zijn veroordeeld tot een paar grote platforms. Ten eerste denk ik: je kunt ook heel veel customizen. Op Twitter bepaal je zelf wie en wat voor onderwerpen je volgt. Je kunt ook dingen muten. Dat kan vast ook op Meta, op Facebook. Is het niet juist de kracht van zo'n platform dat we daar met z'n allen op zitten en dat we daar een goed, scherp en vitaal politiek debat hebben?

Mevrouw Eringa:

Het is een mooi onderwerp. Er is een rapport van de Wetenschappelijke Raad voor het Regeringsbeleid van een heleboel jaren geleden, maar dat is nog superrelevant. Daarin staat onder andere dat pluriformiteit niet per se afhankelijk is van het aantal partijen. Het is niet per se zo dat de pluriformiteit op orde is als je heel veel partijen hebt. Als je het moet doen met de paar aanbieders die je hebt, moet je echt zoeken hoe je binnen die context toch pluriformiteit kunt organiseren. Het is heel veel waard om er voortdurend voor te zorgen dat die pluriformiteit plaats kan vinden, bijvoorbeeld in de vorm van laagdrempeligheid en van subculturen die makkelijk tot stand komen. Het is en-en. Als er meer partijen bij komen in het huidige veld, dan is dat beter, maar daarmee is niet alles gewonnen. Het zoeken naar pluriformiteit op die grote platforms is een van de dingen waar wij samen met Europa aandacht voor moeten hebben bij alles wat we doen. Dat zit ’m niet in automatismen. Dat is werken.

De voorzitter:

Dank. Mevrouw Bouchallikh.

Mevrouw Bouchallikh (GroenLinks):

Ik ben even aan het zoeken, want ik wil nog heel veel zeggen en vragen. Ik zal proberen om het beperkt te houden. Ik ben ook een beetje blijven haken bij die pluriformiteit, maar dan de andere kant op. Ik doe even een gedachte-experiment. Stel dat we in plaats van één platform of één kanaal waar 10.000 mensen haatzaaiende content op plaatsen, die wettelijk misschien mag maar die wel implicaties heeft voor de samenleving, 100 van dat soort groepen hebben. Diezelfde mensen zullen elkaar daar dan nog steeds opruien en gewelddadige ideeën verspreiden die uiteindelijk echt impact hebben op de samenleving. We hebben het tot nu toe over de technische aspecten van social media, over due diligence en over commerciële belangen, maar ik mis de democratische verantwoordelijkheid die de socialmediaplatforms ook dragen. Wij zijn hier heel netjes het gesprek aan het voeren over hoe wij al die belangen samen gaan afwegen, maar hoe kunnen we voorkomen dat deze platformen tot veel meer polarisatie gaan leiden? Er is een bepaalde handelingsverlegenheid als het gaat om de aanpak van deze grote socialmediaplatforms. Wat kunnen we concreet doen om het gesprek te faciliteren en om een gezond debat in de samenleving te laten plaatsvinden, dat niet leidt tot haat? Hoe kunnen wij de socialmediaplatformen dwingen om ook die verantwoordelijkheid te nemen, om echt een stance te nemen? Het moet niet afhankelijk zijn van de vraag of zij Trump al dan niet van hun platform verwijderen. Dat is een individuele keuze of de keuze van een bedrijf, en niet van de samenleving, de Grondwet of de democratie.

De voorzitter:

En met «wij» bedoelt u «de overheid»?

Mevrouw Bouchallikh (GroenLinks):

Ja, inderdaad. Ik doel op de overheid en wat daarvoor nodig zou zijn vanuit wetgeving ...

De voorzitter:

... en regelgeving.

Mevrouw Bouchallikh (GroenLinks):

Ja.

Mevrouw Austin:

Hoe vervelend het ook is om te bedenken dat mensen ergens in een hoekje van het internet haatzaaiende shit met elkaar aan het uitwisselen zijn: we moeten begrijpen dat dat nooit uit de samenleving, en dus ook niet van het internet, zal verdwijnen. Wij als overheid – ik heb altijd geleerd dat ik ook onderdeel ben van de overheid – zullen daar niet op moeten inzetten. Ik meende aan het begin van uw vraag te horen: o jee, verliezen we niet compleet de controle als we straks 100 Facebooks hebben? Ik denk echt dat een pluriformiteit van aanbieders super-, super-, superbelangrijk is. Dat hoeft niet te leiden tot wat mevrouw Van Weerdenburg net aangaf, namelijk dat we elkaar niet meer kunnen fitten ... Sorry, dat we elkaar niet meer kunnen vinden. Daar zou die interoperabiliteit juist voor kunnen zorgen.

Pluriformiteit zit niet alleen aan de kant van de gebruikers, maar ook aan de kant van wie de data heeft. De reden dat deze bedrijven zo verschrikkelijk succesvol zijn, overigens ook buiten het socialemediaveld, is omdat ze een datavoorsprong hebben. Pluriformiteit betekent ook dat je een pluriformiteit van voorwaarden hebt tussen platformen en gebruikers. Ik denk dat pluriformiteit echt de oplossing gaat zijn voor een heel aantal van dit soort problemen. Ik zeg altijd: het is misschien heel naar om te denken dat iemand in een krochtje van het internet hele verschrikkelijke dingen zegt, maar als je de vergelijking maakt met de fysieke wereld, dan zouden we in iedere woonkamer moeten controleren wat voor mening mensen eropna houden. Ik denk dat we naar een andere oplossing moeten zoeken. Als we het publieke debat weerbaarder maken, dan kunnen we het best aan dat er mensen zijn die het slecht voorhebben met anderen; laat ik het netjes houden.

Mevrouw Van Huijstee:

Ik ben het daar helemaal mee eens, maar tegelijkertijd denk ik dat platformen ook de verantwoordelijkheid hebben voor syndicatie, het vinden van gelijkgestemden. Dat is waar een platform voor staat: mensen met elkaar verbinden. Dankzij Telegram kunnen kwaadwillenden, criminelen, elkaar vinden. Dat faciliteert wel degelijk iets wat er eerst niet was. Daar heeft zo'n platform wel een verantwoordelijkheid in. Nog even een hartenkreet: let er vooral op dat jullie niet alleen naar Facebook en Google kijken, want TikTok is echt heel erg groot. Daar zijn de aanbevelingsalgoritmen volledig sturend. Wat betreft Telegram: als we het over dirt hebben, dan kun je dat daar vinden. Daar hebben we minder grip op, maar grip krijgen op deze platforms is wel heel erg belangrijk. Maar mensen verbieden om samen te komen is ook niet de oplossing. Mensen zullen elkaar altijd opzoeken. Ik zie die verantwoordelijkheid, maar het is moeilijk om die te reguleren. Daarbij is weer sprake van die balans tussen vrijheid en veiligheid. Ik denk dat we daar nog langer over moeten praten en nadenken.

De voorzitter:

Ik vrees het ook. Maar goed, daar hebben we de commissie voor Digitale Zaken voor en mensen zoals u. Mevrouw Van Ginneken heeft nog een laatste vraag.

Mevrouw Van Ginneken (D66):

Ik vind de uitwisseling die we hebben heel mooi. Ik wil nog een beetje aanhaken op wat mevrouw Bouchallikh net aangaf, namelijk dat er nog een terrein onontgonnen blijft. Mevrouw Austin zegt: haatzaaien gaat niet verdwijnen. Dat ben ik met haar eens, maar ik stel toch met veel pijn in mijn hart vast dat haatzaaien op dit moment door onze dominante socialmediaplatforms sneller en verder verspreid wordt dan vriendelijke woorden. Ik stel ook vast dat het zelfbeeld van jonge vrouwen disproportioneel negatief is door het gebruik van social media. Dat zijn allemaal conclusies uit onderzoek. De vraag die bij mij opkomt, is dus de volgende. U praat allemaal over reguleren, regels stellen en due diligence. Ik denk dat dat allemaal ontzettend belangrijk is, maar ik voel ook een soort urgentie die ik in onze uitwisseling nog een beetje mis. Onze samenleving wordt gepolariseerd door socialmediaplatforms. Ik geloof dat ik dat met heel veel ondersteunend onderzoek toch best wel zo scherp kan stellen. Wat zou er nu liefst vandaag nog moeten gebeuren bij die socialmediabedrijven om dit polariserende effect echt meteen te gaan dempen?

De voorzitter:

Wie mag ik het woord geven? Mevrouw Eringa.

Mevrouw Eringa:

Dan ga ik toch nog even terug naar iets waar we het al eerder over gehad hebben. De platforms, dus de bedrijven, en ook de mensen die die bedrijven besturen, zijn heel goed in staat om hun strategieën openlijker te maken, maar wij moeten dat ook echt van ze vragen. Het is te kort door de bocht om te zeggen: het is een commercieel verhaal, en het hemd is nader dan de rok, dus doe dat maar; dat begrijpen we wel. We leven juist in een tijd waarin je met elkaar uitwisseling kunt hebben over de vraag waarom je iets wel of niet doet. Daar is het internet ook heel geschikt voor. Dat geldt ook voor dit soort organisaties. We hebben in de euforie van «kijk eens wat het allemaal kan en brengt» ook een klein beetje zitten slapen, en nu zien we dat een aantal dingen wel heel erg sterk en stevig geworden zijn. Daarin ga ik ook wel met de eerdere spreker mee.

Als dat zo is, dan zou je dus ook het gesprek aan moeten gaan met die organisaties en vragen: oké, maar wat is nou júllie strategie; wat doe je wel en wat doe je niet? Dan kun je die gesprekken, of je het nou due diligence noemt of gewoon verantwoordingsgesprekken, ook gemakkelijker en beter voeren. Het zit dus niet altijd allemaal in curatief handelen. Je kunt ook wel een andere weg opgaan. Dit soort organisaties lopen natuurlijk ook over. Ze zijn enorm gegroeid. Ze hebben allemaal organisatorische problemen. Ze hebben allemaal alignmentproblemen: hoe hou je al die mensen bij elkaar? Ik durf te wedden dat in die organisaties op heel veel plekken mensen dingen zitten te doen waarvan het bestuur zegt «o jee, dat was nou net niet de bedoeling» of «misschien hadden we dat niet moeten doen». We moeten daar iets meer aandacht voor hebben. Dan maar opvoeding. Dat zal ook wel tijd kosten, maar dat is wel een pad dat je op moet.

De voorzitter:

Dank. Dan eerst mevrouw Van Huijstee, en tot slot mevrouw Austin.

Mevrouw Van Huijstee:

Bedankt. Ik denk dat ik hier heel erg bij aansluit. We willen van die platformen gewoon een plan zien waarin ze vertellen hoe zij de risico's gaan aanpakken die hun bedrijfsactiviteiten voor de maatschappij hebben. We willen dat ze daar verantwoording over afleggen. Als het plan niet werkt, willen we een nieuw plan, en als ze het plan niet uitvoeren, krijgen ze straf. Dat is wat due diligence is. Ze mogen dus zelf het plan maken, en het mag ook falen, want we weten niet of het lukt. Maar ze moeten wel het plan maken, het uitvoeren en er verantwoording over afleggen. Dat sluit aan bij het voorgaande, denk ik.

Wat misschien toch ook wel belangrijk is, is het causale verband tussen sociale media en polarisering. Dat is nog niet helemaal aangetoond. Dat er een rol is, is absoluut zo, maar sociale media zijn ook wel weer een reflectie van wat er in de maatschappij gaande is. Het heeft dus ook wel te maken met onze normen en waarden in de samenleving. Dan kom je weer op mediawijsheid en elkaar erop aanspreken hoe we met elkaar om willen gaan. Dat is heel zacht werk. Dat heeft helemaal niks met wetten te maken; dat heeft gewoon echt te maken met het gesprek, online en offline, op scholen, in buurten, in wijken en in de Tweede Kamer.

Mevrouw Austin:

Het was niet mijn bedoeling om de problemen te bagatelliseren, mocht dat zo over zijn gekomen. Ik ben er alleen heel bang voor dat als we elk probleem op zich gaan aanpakken, we daar heel druk mee bezig zijn en de meer fundamentele oplossingen niet vinden. U vraagt: wat kan er vandaag gebeuren? In de AI-wetgeving die wordt gemaakt, staat een heel voorzichtig geformuleerd verbod op beïnvloeding op basis van algoritmische systemen. Dat is iets wat ook echt in de kern van de platforms zit. Een van de voorstellen in de DSA is dat mensen recht moeten hebben op een aanbevelingssysteem dat niet gepersonaliseerd is. Dat is een oplossing die Facebook morgen kan uitrijden en waar u om zou kunnen vragen.

Een andere is dat deze platformen stoppen met het verspreiden van content op basis van engagement metrics. Dat is eigenlijk waar het aanwakkeren van het vuur van haatzaaiende content vooral plaatsvindt. Het derde is: zouden we niet iets met de Autoriteit Persoonsgegevens moeten in dezen? We horen de Autoriteit Persoonsgegevens heel vaak zeggen: we zien inderdaad een privacyinbreuk, maar we gaan niet handhaven. Kunnen we op de een of andere manier de AP in beweging krijgen om van deze platformen een topprioriteit te maken, en wat is daar dan voor nodig?

Tot slot – maar ik ben een beetje huiverig om dit te zeggen – publiceren Facebook en Google heel veel informatie over welke content ze allemaal offline halen, maar ze overwhelmen ons met informatie. Ik vraag me af of we ze als overheid niet veel specifiekere vragen kunnen stellen en kunnen zeggen: om de impact op onze samenleving goed te kunnen inschatten, zijn dit de cijfers die we van u nodig hebben op deze manier. Ik weet zeker dat er genoeg onderzoekers zijn die die vragen heel precies voor u zouden kunnen formuleren.

De voorzitter:

Dank. Dan concludeer ik hiermee dat we een boeiend rondetafelgesprek hebben gehad. Ik dank de mensen thuis die het gevolgd hebben. Ik dank de Kamerleden voor de kritische vragen, maar ik dank in het bijzonder onze gasten, mevrouw Austin van Bits of Freedom, mevrouw Van Huijstee van het Rathenau Instituut en natuurlijk mevrouw Eringa van het Commissariaat voor de Media. Dank. Ik wens de mensen een hele plezierige middag. Wees een beetje aardig, een beetje lief voor elkaar op social media – en daarbuiten, in het fysieke leven ook, ja.

Sluiting 16.00 uur.