Preview document (🔗 origineel)

---

2026Z02621

(ingezonden 6 februari 2026)

Vragen van het lid Zwinkels (CDA) aan de staatssecretaris van Binnenlandse Zaken en Koninkrijksrelaties over het artikel ‘Snelgroeiende autonome AI-assistent is een ‘disaster waiting to happen’'.

Bent u bekend met het artikel 'Snelgroeiende autonome AI-assistent is een ‘disaster waiting to happen’'? 1)

Deelt u de zorgen van experts dat steeds autonomer opererende AI-assistenten risico’s vormen voor veiligheid, privacy, menselijke controle en mentale gezondheid? En kunt u daarbij aangeven welke risico’s u het meest urgent acht?

Acht u het wenselijk dat AI-systemen zelfstandig handelingen, zoals het doen van aankopen en het aangaan van contracten, kunnen verrichten namens gebruikers?

 

Zo ja, kunt u aangeven welke toepassingen het kabinet maatschappelijk gezien wenselijk en/of acceptabel vindt, en welke niet?

In hoeverre is het huidige Nederlandse en Europese toezichtkader (waaronder de AI Act) toereikend om risico’s van autonome AI-systemen die zelfstandig taken uitvoeren te ondervangen?

 

Welke definitie van verantwoorde AI (innovaties) hanteert het kabinet? En in hoeverre passen AI-assistenten daarin? 

Kunt u aangeven of het naar uw inzicht wenselijk is dat er vanuit de overheid gebruik gemaakt wordt van autonome AI-assistenten? En op welke vlakken gebeurt dit al? Onder welke voorwaarden wordt dit toegestaan en hoe wordt hierop toegezien in de praktijk? 

 

Hoe wordt op dit moment geborgd dat er in kritieke infrastructuur, in sectoren als defensie, de zorg en de overheid zelf, altijd sprake blijft van ‘meaningful human control’ (ofwel ‘human in the loop’) bij het gebruik van autonome AI-assistenten?

 

Welke andere waarborgen (vangrails) zijn naar uw verwachting nog nodig om hier goed mee om te gaan, voor zowel overheid als samenleving, en is bijsturing mogelijk?

 

 

1) NRC, 4 februari 2026, Snelgroeiende autonome AI-assistent is een ‘disaster waiting to happen’, https://www.nrc.nl/nieuws/2026/02/03/snelgroeiende-autonome-ai-assistent-die-taken-van-gebruikers-overneemt-is-een-disaster-waiting-to-happen-a4919418