Preview document (🔗 origineel)

---

Tweede Kamer der Staten-Generaal	2
Vergaderjaar 2024-2025	Aanhangsel van de Handelingen
	Vragen gesteld door de leden der Kamer, met de daarop door de regering gegeven antwoorden

188

Vragen van het lid Rooderkerk (D66) aan de Staatssecretaris van Onderwijs, Cultuur en Wetenschap over het bericht «Pleidooi voor AI-richtlijn op scholen: «Risico's groot, bewustzijn laag»» (ingezonden 5 september 2024).

Antwoord van Staatssecretaris Paul (Onderwijs, Cultuur en Wetenschap) (ontvangen 7 oktober 2024).

Vraag 1

Bent u bekend met het pleidooi van de Algemene Onderwijsbond (AOb) voor een AI-richtlijn op scholen?¹

Antwoord 1

Ja.

Vraag 2

Welk inzicht heeft u in het gebruik van artificiële intelligentie (AI) door scholen? Heeft u een overzicht van welke AI-tools worden ingezet door scholen zelf?

Antwoord 2

In algemene zin hebben we inzicht in het gebruik van AI door scholen en welke tools dat zijn. In de meest recente Monitor Digitalisering Onderwijs (MDO, voorheen MYRA) 2023 van Kennisnet, de PO-Raad en de VO-raad is leraren gevraagd naar het gebruik van digitale middelen². In het primair onderwijs maakte in 2023 63 procent van de leraren gebruik van dashboards waarop de voortgang van leerlingen te volgen is (Snappet, Gynzy, Prowise Learn, Rekentuin) en 40 procent gebruikte adaptieve gepersonaliseerde digitale leermiddelen.³ In het voortgezet onderwijs betrof dit respectievelijk 31 procent en 29 procent van de leraren.⁴ In de MDO 2025 zal leraren specifiek gevraagd worden of zij AI (apps of toepassingen) bij de lessen en lesvoorbereiding gebruiken en over welke kennis en vaardigheden zij op dit terrein beschikken

Vraag 3

Heeft u inzicht in de manier waarop door leerlingen gebruik wordt gemaakt van AI voor het maken van werkstukken en huiswerkopdrachten en hoe scholen hiermee omgaan?

Antwoord 3

Ik heb geen inzicht in de manier waarop leerlingen thuis gebruik maken van AI voor het maken van werkstukken en huiswerkopdrachten.

Vraag 4

Op welke wijze heeft AI een plek in de nieuwe kerndoelen voor digitale geletterdheid? Wanneer zijn deze definitief verankerd?

Antwoord 4

Begin maart 2024 heeft de SLO de conceptkerndoelen digitale geletterdheid opgeleverd. In deze concepten is AI expliciet opgenomen. Momenteel worden de kerndoelen op scholen beproefd op bruikbaarheid en wordt geëvalueerd hoe goed ze aansluiten bij de praktijk. Daarnaast zal dit najaar de wetenschappelijke Curriculumcommissie een advies uitbrengen over de conceptkerndoelen.

In oktober ontvangt uw Kamer een brief waarin wordt toegelicht hoe hier invulling aan wordt gegeven.

Vraag 5

Vindt u het goed dat leerlingendata terechtkomt in handen van grote AI-bedrijven? Hoe verhoudt dit zich tot de Algemene verordening gegevensbescherming (AVG) en wat gaat u hieraan doen?

Antwoord 5

Ik vind het belangrijk dat de (digitale) veiligheid en privacy van de onderwijsomgeving van leerlingen en onderwijspersoneel geborgd is. Het is in de eerste plaats aan de schoolbesturen om hun (digitale) onderwijs vorm te geven, en daarbij te kiezen of, en zo ja welke, AI-producten ze hierbij inzetten. AI kan het onderwijs ondersteunen, mits bewust gekozen en verantwoord toegepast. De handreiking AI van Kennisnet biedt handvatten om te zorgen voor sociale veiligheid en een pedagogisch klimaat bij AI op school.⁵ Daarnaast is het van groot belang dat de persoonsgegevens van leerlingen bij het gebruik van AI-systemen goed worden beschermd. De website Aanpak IBP van Kennisnet helpt scholen om de AVG goed na te leven. Relevant is onder meer dat de school een verwerkersovereenkomst afsluit met de leverancier van het AI-systeem waarin contractueel wordt vastgelegd dat de leverancier de gegevens alleen mag gebruiken voor de doelen die de school aangeeft. Ook is de school in de meeste gevallen verplicht om een data protection impact assessment (DPIA ofwel een privacyonderzoek) uit te voeren als in een AI-systeem persoonsgegevens worden verwerkt, waarmee de privacyrisico’s in kaart worden gebracht en maatregelen genomen worden om deze te beperken. Omdat dit voor scholen intensief en tijdrovend kan zijn, voeren de ICT-coöperaties SURF en SIVON namens de onderwijssector DPIA’s uit op digitale producten die in het onderwijs gebruikt worden. Dat doen ze niet alleen bij Nederlandse aanbieders, maar ook voor grote internationale bedrijven zoals Google en Microsoft. In dit kader zijn afspraken gemaakt met onder andere Zoom, Google en Microsoft over het beschermen van de privacy van leerlingen, studenten en medewerkers. Ik bevorder via het Programma Digitaal Veilig Onderwijs dat SIVON ook DPIA’s kan uitvoeren op andere digitale producten die in het funderend onderwijs worden gebruikt.

Vraag 6

Denkt u dat leerkrachten en scholen voldoende toegerust zijn om AI veilig in te zetten en de inzet ervan door leerlingen te herkennen en te bespreken?

Antwoord 6

Ik vind het belangrijk dat het onderwijs AI op een doordachte en verantwoorde manier toepast, met aandacht voor publieke waarden zoals privacy en kansengelijkheid en dat leraren bewuste en weloverwogen keuzes kunnen maken over het gebruik van AI. Leraren moeten de technologie kunnen gebruiken, en begrijpen hoe AI-systemen werken, wat hun beperkingen zijn en welke ethische vraagstukken daarbij komen kijken. Dit vraagt van leraren dat zijzelf ook digitaal vaardig zijn.

Daarom ondersteun ik leraren op verschillende manieren bij de inzet van AI in het onderwijs. Er zijn concrete handvatten beschikbaar, zoals de handreiking AI in het onderwijs van Stichting Kennisnet die scholen helpt verantwoorde keuzes te maken rondom AI, met richtlijnen voor beleid en professionalisering. En er is de gratis online AI-cursus van de Nederlandse AI-coalitie voor docenten in het primair en voortgezet onderwijs. Het Expertisepunt Digitale Geletterdheid biedt daarnaast ondersteuning aan het po, vo, s(v)o en mbo. Tot slot werken we samen met Vlaanderen aan digitale professionalisering voor leraren. We gaan samen onderzoeken hoe we leraren op slimme manieren beter kunnen ondersteunen bij het aanleren van digitale vaardigheden.

Vraag 7

Bent u bekend met het bericht «Meer kennis algoritmen nodig op scholen, «anders risico op discriminatie»»?⁶

Antwoord 7

Ja.

Vraag 8

Deelt u de zorgen van het College voor de Rechten van de Mens over dat de inzet van adaptieve leermiddelen kan leiden tot kansenongelijkheid?

Antwoord 8

Ik ben het met het College eens dat het van belang is dat systemen die gebruikt worden in het onderwijs niet leiden tot uitsluiting of discriminatie. Kinderen mogen nooit de dupe worden van discriminatie, ook niet wanneer die impliciet in algoritmes is ingebouwd. Hoewel de onderzoekers aangeven dat er op dit moment geen concrete voorbeelden te vinden zijn van discriminatie of uitsluiting door algoritmes in het funderend onderwijs, is het ook in de toekomst van belang dat dit geen plaats krijgt in de (digitale) onderwijssystemen. Daartoe is recent de nieuwe AI-verordening in werking getreden. Deze Europese wet stelt verdere grenzen aan de toepassing van algoritmes in het onderwijs. Zo wordt het gebruik van een aantal typen AI en algoritmes ingedeeld in de hoog-risico-categorie, waarin extra eisen zijn opgenomen. Systemen die zich richten op onder andere toelating tot het onderwijs of het beoordelen van een passend onderwijsniveau vallen in deze categorie. Als onderwijsinstellingen deze systemen willen inzetten, dienen zij aanvullende maatregelen te treffen om te voorkomen dat gebruik van deze systemen kansenongelijkheid in de hand werkt.

Vraag 9 en 10

Op welke wijze wordt toezicht gehouden op de algoritmes van programma’s zoals Snappet, Gynzy en andere lesmethoden?

Hoe gaat u transparantie, uitlegbaarheid en de eerlijkheid van deze algoritmes waarborgen?

Antwoord 9 en 10

Op Europees niveau biedt de recent geïntroduceerde AI-verordening een juridisch kader om ervoor te zorgen dat AI-systemen veilig en ethisch worden ingezet. De komende tijd zal ik samen met de onderwijssector verkennen hoe we de maatregelen binnen de AI-verordening het beste kunnen vormgeven.

Op nationaal niveau speelt het Nationaal Onderwijslab AI (NOLAI) een belangrijke rol in het waarborgen van de kwaliteit, kansengelijkheid en de regie van leraren in de verantwoorde ontwikkeling en toepassing van AI in het onderwijs. Zo maakt NOLAI in het wetenschappelijk programma de pedagogische, maatschappelijke en sociale gevolgen van intelligente technologie in onderwijs inzichtelijk. In het onlangs gepubliceerde referentiekader wordt de werkwijze van het Onderwijslab uitgelegd.⁷ Daarnaast biedt het opschalingsplan van NOLAI waardevolle inzichten in de integratie van AI-producten in het onderwijs, waarbij de visie van scholen en de vaardigheden van leraren centraal staan. Leraren worden uitgerust met de benodigde kennis en tools om AI op een verantwoorde en effectieve manier in hun onderwijspraktijk te integreren en zorgt voor een duurzame en brede implementatie van AI-producten in het funderend onderwijs.

Vraag 11

Heeft u inzicht in hoeveel scholen zelfstandig richtlijnen of beleid hebben opgesteld voor het gebruik van AI?

Antwoord 11

Ik vind het belangrijk dat scholen bewuste en verantwoorde keuzes maken over het gebruik van AI op basis van een AI-beleid dat past bij de visie op onderwijs en de kernwaarden van de school. Scholen kunnen hiervoor gebruikmaken van het Vier-in-balans model⁸ en de Handreiking AI in het onderwijs⁹ van Kennisnet. In de Monitor Digitalisering Onderwijs 2025 zullen onder meer vragen worden opgenomen over visie en beleid van het schoolbestuur omtrent AI, en of de school richtlijnen heeft over verantwoord gebruik van AI in de klas.

Vraag 12 en 13

Bent u bereid om in gesprek te gaan samen met de AOb en scholen die vooroplopen als het gaat om AI-beleid om lessen te trekken voor een eventuele landelijke richtlijn?

Bent u bereid om samen met de AOb de handschoen op te pakken voor een richtlijn voor AI in de klas? Zo nee, waarom niet?

Antwoord 12 en 13

In onze huidige digitale maatschappij, waar technologische innovaties zich snel ontwikkelen, is het noodzakelijk dat we scholen ondersteunen bij de doordachte inzet en gebruik van AI in de klas. In het kader van de gesprekken die ik zal voeren met de onderwijssector over de AI-verordening en hoe we de maatregelen en het toezicht daarop vormgeven, ga ik graag in gesprek met de AOb, de andere onderwijspartners en scholen. Tegelijkertijd wil ik benadrukken dat er al op verschillende manieren ondersteuning wordt geboden aan schoolbestuurders, schoolleiders en leraren. Door inzichten te bundelen kunnen we de samenwerking tussen alle betrokken partijen versterken.

---

1. Pleidooi voor AI-richtlijn op scholen: «Risico's groot, bewustzijn laag» (nos.nl)↩︎

2. https://www.kennisnet.nl/app/uploads/MYRA-monitor-digitalisering-funderend-onderwijs-rapportage-primair-onderwijs-2023.pdf↩︎

3. https://www.kennisnet.nl/app/uploads/MYRA-monitor-digitalisering-funderend-onderwijs-rapportage-primair-onderwijs-2023.pdf↩︎

4. https://www.kennisnet.nl/app/uploads/MYRA-monitor-digitalisering-funderend-onderwijs-rapportage-voortgezet-onderwijs-2023.pdf↩︎

5. https://www.kennisnet.nl/artificial-intelligence/privacy-en-ai-hier-moeten-scholen-op-letten/↩︎

6. Meer kennis algoritmen nodig op scholen, «anders risico op discriminatie» (nos.nl)↩︎

7. https://www.ru.nl/nolai/kennis-over-ai-in-onderwijs/referentiekader↩︎

8. https://www.kennisnet.nl/beleid-en-organisatie/vier-in-balans-een-betrouwbaar-houvast-bij-keuzes-voor-ict-inzet/↩︎

9. https://www.kennisnet.nl/artificial-intelligence/handreiking-ai-voor-scholen/↩︎