Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2022-2023	Aanhangsel van de Handelingen
	Vragen gesteld door de leden der Kamer, met de daarop door de regering gegeven antwoorden

2885

Vragen van het lid Kathmann (PvdA) aan de Staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over de chatbot van Snapchat (ingezonden 20 april 2023).

Antwoord van Staatssecretaris Van Huffelen (Binnenlandse Zaken en Koninkrijksrelaties) mede namens de Staatssecretaris van Volksgezondheid, Welzijn en Sport en de Minister voor Primair en Voortgezet Onderwijs (ontvangen 13 juni 2023).

Vraag 1

Is de Staatssecretaris bekend met het artikel «Nieuwe functie Snapchat wil met kinderen afspreken: «Zie ik je vanavond? Ik ben een echt persoon!»»?¹

Antwoord 1

Ja, daarmee ben ik bekend.

Vraag 2

Hoe beoordeelt de Staatssecretaris de constatering in het artikel dat wanneer kinderen aangeven te kampen met problemen de chatbot van Snapchat zich voordoet als een echt persoon, en zelfs voorstelt om af te spreken?

Antwoord 2

Ik vind het onwenselijk als een chatbot zich voordoet als echt persoon en kinderen voorstelt om af te spreken. Snap Inc., het bedrijf achter Snapchat, heeft inmiddels in een gesprek met de Staatssecretaris van VWS en mij aangegeven dat de functionaliteit is aangepast waardoor de chatbot zich niet langer voordoet als een echt persoon en expliciet wordt vermeld dat het gaat om een chatbot. Toch vind ik het kwalijk dat er bij de introductie van deze nieuwe functie in Snapchat onvoldoende rekening is gehouden met de impact die dit kan hebben op kinderen. Ik wil bedrijven zoals Snap Inc. dan ook oproepen de Code Kinderrechten Online toe te passen, waarvan het eerste beginsel luidt: «zet het belang van het kind voorop bij het ontwerp». Ook met het oog op de aankomende AI-verordening vind ik het belangrijk dat ontwerpers die gebruik maken van een chatbot duidelijk en transparant zijn richting de eindgebruiker dat er sprake is van een AI-systeem. In het geval van kinderen vergt dat extra waarborgen.

Vraag 3

Deelt de Staatssecretaris de zorgen dat kinderen die online op zoek gaan naar hulp ten prooi vallen aan deze chatbot?

Antwoord 3

Zoals hierboven gesteld heeft Snapchat aangegeven dat de chatbot zich niet langer voordoet als een echt persoon. Wanneer de aankomende AI-verordening van toepassing is, zal het bij chatbots verplicht zijn om natuurlijke personen te informeren dat zij interacteren met een AI-systeem, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 4

Deelt de Staatssecretaris de opvatting dat het zorgelijk is wanneer kinderen niet het onderscheid kunnen maken tussen een chatgesprek met een echt persoon en een chatgesprek met een chatbot?

Antwoord 4

Jazeker, daarom is bovengenoemde AI-verordening van groot belang. Deze verordening verplicht dat natuurlijke personen worden geïnformeerd over het feit dat zij met een AI-systeem (zoals een chatbot) te maken hebben. Deze wetgeving moet de benodigde transparantie bieden over de vraag of je met een echt mens communiceert of met AI.

Vraag 5

Welke risico’s ziet de Staatssecretaris in het feit dat kinderen die hulp zoeken omdat ze zich bijvoorbeeld eenzaam voelen, niet weten dat ze te maken hebben met een chatbot en niet met een echt persoon?

Antwoord 5

Dat kinderen met chatbots kunnen chatten hoeft in beginsel niet problematisch te zijn. Wel dient hierbij voor deze kinderen duidelijk te zijn dat zij chatten met een chatbot en geen echt persoon. In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders van AI-systemen ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Een ander belangrijk risico is dat kinderen (gevoelige) persoonsgegevens verstrekken aan een chatbot en deze gegevens vervolgens worden opgeslagen, verwerkt en worden gebruikt om kinderen te profileren. Omdat kinderen vaak nog niet in staat zijn om een goede inschatting te maken van welke informatie ze beter wel of niet kunnen delen, hebben technologiebedrijven een belangrijke verantwoordelijkheid om daar geen misbruik van te maken en zich te houden aan de toepasselijke wet- en regelgeving, zoals de AVG de Digital Services Act (DSA), die binnenkort van toepassing wordt.

Ook hebben de platforms een eigen verantwoordelijkheid tegenover hun gebruikers om bij het vormgeven van hun diensten het belang van kinderen een belangrijke rol te laten spelen. Ik verwacht van deze bedrijven dat zij ook rekenschap geven van het feit dat bepaalde functionaliteiten risico’s voor kinderen met zich meebrengen. Ik spreek geregeld met verschillende grote technologiebedrijven over het beschermen van kinderen online. Tijdens deze gesprekken wijs ik deze grote techbedrijven op hun verantwoordelijkheid om kinderen en jongeren online te beschermen.

Vraag 6

In hoeverre verwacht de Staatssecretaris dat het mogelijk is dat een dergelijke chatbot kinderen met problemen voorziet van onjuiste of gevaarlijke adviezen?

Antwoord 6

Een chatbot kan onjuiste of gevaarlijke adviezen geven. Ik vind het natuurlijk volledig onacceptabel als chatbots kinderen van gevaarlijke of onjuiste adviezen zouden voorzien.

In de DSA zijn bepalingen opgenomen om gebruikers van online platforms beter te beschermen. De verplichtingen uit de DSA gaan vanaf 17 februari 2024 voor alle tussenhandeldiensten gelden. Voor de zeer grote online platforms- en zoekmachines, waaronder sociale netwerken als TikTok, Snapchat, Instagram en Facebook, wordt de DSA al dit jaar van toepassing, namelijk op 25 augustus 2023. Zij zijn vanaf dan verplicht om jaarlijks de zogenaamde systeemrisico’s die voortvloeien uit het ontwerp of uit de werking van hun diensten in kaart te brengen en maatregelen te nemen om deze risico’s te verminderen. Tot deze systeemrisico’s behoren nadrukkelijk ook eventuele werkelijke of voorzienbare negatieve effecten op de uitoefening van grondrechten, waaronder de rechten van kinderen, en negatieve effecten met betrekking tot minderjarigen. Dit betekent dat de zeer grote online platforms, waaronder ook Snapchat, op grond van de DSA maatregelen moeten nemen om de kinderen te beschermen tegen chatbots wanneer deze (potentieel) een negatief effect hebben op de rechten of het welzijn van kinderen.

Vraag 7

In hoeverre deelt de Staatssecretaris de opvatting van het kenniscentrum Bureau Jeugd & Media dat er een gedragscode moet komen voor het gebruik van chatbots?

Antwoord 7

In de AI-verordening (die nog in onderhandeling is) staat dat aanbieders ervoor moeten zorgen dat AI-systemen die voor interactie met natuurlijke personen zijn bedoeld (zoals chatbots), zodanig worden ontworpen en ontwikkeld dat natuurlijke personen worden geïnformeerd dat zij met een AI-systeem te maken hebben, tenzij uit de omstandigheden en gebruikscontext al blijkt dat sprake is van een AI-systeem.

Vraag 8

Deelt de Staatssecretaris de opvatting dat de urgentie van het verhogen van kennis over deze toepassingen onder kinderen zeer hoog is?

Antwoord 8

Ja, ik acht het van belang dat kinderen en hun ouders worden gewaarschuwd voor de risico’s voor kinderen in de digitale wereld. Zoals reeds aangegeven in de beantwoording van de Kamervragen die op 9 maart jl. aan uw Kamer zijn verzonden,² zal ik een publiekscampagne starten om ouders en kinderen hierover beter te informeren. Voor de zomer zal ik een brede beleidsbrief over de bescherming van kinderen in de digitale wereld aan uw Kamer sturen. Hierin zal ik deze campagne ook verder toelichten.

Vraag 9

Welke rol ziet de Staatssecretaris hierin weggelegd voor scholen? Op welke manier gaat het kabinet zorgen dat scholen toegerust zijn om kinderen van deze kennis te voorzien?

Antwoord 9

Het is belangrijk dat schoolbesturen en leraren voldoende op de hoogte zijn van zowel de kansen als de risico’s van AI voor het onderwijs. Van onderwijsinstellingen vraagt dit om te doordenken hoe zij dit vanuit hun visie op goed onderwijs binnen hun instellingen willen vormgeven. Zij worden hierbij ondersteund door Kennisnet en SURF, die webinars en artikelen aanbieden. Ook hebben Kennisnet, de PO-Raad en de VO-raad een monitor ontwikkeld, MYRA, die scholen inzicht geeft in hoe zij ervoor staan op het gebied van technologie en digitalisering. Bewustwording over kunstmatige intelligentie vormt daar één van de onderdelen van, waaronder het gebruik van chatbots in de klas en computational thinking.

Aanvullend faciliteert het Ministerie van OCW een verantwoorde ontwikkeling van AI in het onderwijs, door het benutten van kansen en met oog voor de risico’s. Met behulp van het Nationaal Groeifonds investeert het Ministerie van OCW in deze ontwikkelingen tot 2035. Zo is er voor de komende tien jaar € 80 miljoen toegekend aan het Nationaal Onderwijslab AI (NOLAI) in het funderend onderwijs. Leraren en scholen in het funderend onderwijs kunnen deelnemen aan co-creatie projecten waarin zij samen met wetenschappers en leermiddelenmakers werken aan een goede inzet van intelligente technologieën in het onderwijs, vanuit een pedagogisch en didactisch verantwoorde basis, met oog voor risico’s als privacy en autonomie van leerlingen en leraren.

Vraag 10

Welke andere manieren ziet de Staatssecretaris voor zich om kinderen online weerbaar te maken en te beschermen tegen dergelijke negatieve uitwassen van AI toepassingen?

Antwoord 10

Zoals toegelicht onder vraag 8 zijn wij bezig met het ontwikkelen van een voorlichtingscampagne om het bewustzijn van de risico’s in de digitale wereld bij ouders en kinderen te verhogen en hun (meer) handelingsperspectief te bieden.

---

1. «Nieuwe functie Snapchat wil met kinderen afspreken: «Zie ik je vanavond? Ik ben een echt persoon!»», AD, 18-04-2023, Nieuwe functie Snapchat wil met kinderen afspreken: «Zie ik je vanavond? Ik ben een echt persoon!» | Tech | AD.nl.↩︎

2. Aanhangsel Handelingen II 2022/23, nr. 2223.↩︎