AI kent geen landsgrenzen, maar het toezicht erop wel. Dat brengt grote risico’s met zich mee, waarschuwt Huub Janssen. Als voormalig kwartiermaker voor AI-toezicht bij de Rijksinspectie Digitale Infrastructuur (RDI) werkte hij mee aan de inrichting van nationaal en internationaal AI-toezicht. Aan de hand van een fictieve pratende AI-pop schetst hij waarom de huidige toezichtaanpak van AI nog tekortschiet.
Een vierjarig meisje steekt ’s nachts haar slapende vader en moeder neer. Uiteindelijk vertelt ze de politie dat haar pratende pop haar de opdracht gaf. Diezelfde pop had haar verboden erover te praten. Een pratende AI-pop voor kinderen bestaat al in China. Het gruwelijke scenario is gelukkig fictief, maar Janssen gebruikt het om te laten zien waar het toezicht op AI vastloopt.
“Achter zo’n pop gaat een wereldwijde keten schuil”, vertelt Janssen. “Stel, hij is in Nederland te koop. Dan kocht de Nederlandse speelgoedwinkel hem bij een groothandel, die weer verwijst naar de importeur. De fabrikant zit in Zuid-Amerika en de softwareleverancier in Azië. Die gebruikt op zijn beurt een AI-taalmodel van een grote Amerikaanse of Chinese aanbieder. Wie is dan verantwoordelijk voor de veiligheid van de pop? Hoe komt een Nederlandse toezichthouder erachter wat er precies is misgegaan? En hoeveel heeft de nationale toezichthouder er überhaupt over te zeggen?”
Eén pop, meerdere toezichthouders
Die pop blijkt naast te praten ook gesprekken op te slaan, beelden te maken en locatiegegevens te verzamelen. De softwareleverancier verkoopt die informatie door aan 150 bedrijven. Daarmee spelen naast veiligheid ook privacy, cybersecurity en de AI Act een rol. Die laatste verbiedt onder meer vormen van manipulatie door AI. Verschillende toezichthouders krijgen met de pop te maken, ieder vanuit eigen wetgeving en bevoegdheden.
“Andere toezichthouders kunnen bij de AP en de RDI terecht voor specialistische kennis over AI.”
In Nederland hebben toezichthouders daarom hard gewerkt aan een gezamenlijke aanpak. Hun afspraken vormen de basis voor de voorgestelde Uitvoeringswet AI-verordening, die moet regelen welke instanties toezicht gaan houden op de Europese AI-regels. Omdat meerdere wetten meespelen zal het per casus ook sterk verschillen welke toezichthouder de leiding neemt. De AP en RDI krijgen duidelijk een coördinerende rol. Als we weer naar de pratende AI-pop kijken, dan houdt de NVWA toezicht op de speelgoedveiligheid. Voor de technische aspecten van AI kan de NVWA de expertise van de RDI inschakelen en voor het privacyvraagstuk de AP.
Wie is eindbeslisser?
Janssen is positief over de gevormde samenwerking, maar vindt dat het echte werk nog moet beginnen. “We zijn op tijd begonnen en hebben de samenwerking behoorlijk goed georganiseerd. Maar er is nog te weinig capaciteit en we moeten in de praktijk ontdekken hoe we met ingewikkelde situaties omgaan.”
Vooral bij botsende belangen kan het gaan schuren. “Wat als de ene toezichthouder gevaarlijke AI-systemen wil stilleggen, terwijl een andere vreest dat daardoor een belangrijke maatschappelijke dienst uitvalt? Wie beslist dan wat zwaarder weegt? Toezichthouders zijn nog onvoldoende voorbereid op zulke dilemma’s.”
Samen sterker in Europa
De pratende pop wordt waarschijnlijk ook elders in Europa verkocht. Toezichthouders krijgen daar te maken met dezelfde risico’s en leveranciers. Samen kunnen ze meer bereiken, zeker tegenover grote technologiebedrijven.
“De formele Europese samenwerking onder de AI Act is te beleidsmatig ingericht.”
Volgens Janssen is de formele Europese samenwerking onder de AI Act te beleidsmatig ingericht. “Als toezichthouder wil je vooral weten wie je kunt bellen bij een incident, welke onderzoeken anderen al hebben gedaan en welke hulpmiddelen ze gebruiken.” Daarom hielp hij een informele werkgroep opzetten, waarbij inmiddels zo’n 65 Europese toezichthoudende organisaties zijn aangesloten.
Ook grote onderzoeken kunnen ze samen oppakken. “Stel dat een wijdverspreid AI-systeem dat geleverd wordt door een big techbedrijf niet aan de regels voldoet. Voor een eventuele miljardenboete moet je een stevig dossier opbouwen. Daar heb je tientallen onderzoekers voor nodig. De lidstaten kunnen die samen leveren.”
Grenzeloos toezicht?
Maar de bevoegdheden van Europese toezichthouders reiken niet zomaar tot bedrijven buiten Europa. Daarom hielp Janssen UNESCO om het Global Network of AI Supervisors (GNAIS) op te zetten. Het internationale netwerk werd in 2025 gelanceerd en moet toezichthouders over de hele wereld met elkaar verbinden.
“Als je bijvoorbeeld problemen ontdekt met een AI-product uit een land buiten de EU, dan wil je weten welk bedrijf erachter zit en of de toezichthouders uit dat land er al onderzoek naar doen. Misschien hebben zij informatie die wij niet kunnen achterhalen.” Het netwerk maakt zo’n uitwisseling mogelijk. “Het staat nog in de kinderschoenen, maar ik verwacht dat één groot internationaal AI-incident genoeg kan zijn om die samenwerking echt op gang te brengen.”
Big Tech komt ermee weg
Ondertussen verandert de technologie om toezicht op te houden razendsnel. “We denken nog te veel in afzonderlijke AI-systemen”, waarschuwt Janssen. “Maar AI zit inmiddels in vrijwel alles: van medische apparatuur en auto’s tot speelgoed en kantoorsoftware. Binnen één product kunnen tientallen AI-systemen samenwerken. Die afzonderlijk registreren in een algoritmeregister – zoals nu gebeurt – is daarmee eigenlijk alweer achterhaald.”
“AI-systemen opnemen in het algoritmeregister is eigenlijk alweer achterhaald.”
Ook de afhankelijkheid van enkele grote AI-aanbieders baart Janssen zorgen. “Wat als straks één leverancier de AI levert voor vrijwel de hele gezondheidszorg? Kun je zo’n systeem nog wel van de markt halen als daardoor de hele sector in de problemen komt?” De bevoegdheid om in te grijpen kan zo botsen met de maatschappelijke gevolgen. “Daarom moeten we Nederlandse en Europese AI-bedrijven helpen zich op de regels voor te bereiden”, vindt Janssen.
“Dat ligt natuurlijk gevoelig, want toezichthouders moeten onafhankelijk blijven. Toch wordt er al gewerkt aan manieren om bedrijven vooraf duidelijkheid te geven over de regels, ook al zijn die nog volop in ontwikkeling. Zo kunnen we voorkomen dat Nederlandse en Europese AI-bedrijven onnodig op achterstand raken en we steeds afhankelijker worden van een paar grote buitenlandse aanbieders.”
Oefenen voordat het misgaat
Volgens Janssen ligt de grootste opgave nu bij de bestuurders van toezichthoudende organisaties. “AI raakt vrijwel het hele toezicht, maar veel bestuurders zien het nog als een specialistisch onderwerp. Ze wachten op extra geld, terwijl je nu al mensen moet vrijmaken om je voor te bereiden. Dit raakt ook al het bestaande werk als toezichthouder.” Hij pleit ervoor dat toezichthouders samen complexe AI-casussen uitwerken en oefenen hoe zij bij een incident moeten handelen.
“Bestuurders wachten op extra geld, maar moeten nu al mensen vrijmaken.”
Neem opnieuw het incident met de fictieve pratende pop. Welke toezichthouder neemt bij zo’n incident de leiding? Welke wetten gelden er? Welke expertise en buitenlandse contacten zijn nodig? “Als zoiets echt gebeurt, moet een bestuurder dezelfde ochtend kunnen uitleggen wat de vervolgstappen zijn. Dan kun je niet nog beginnen met uitzoeken wie waarvoor verantwoordelijk is.” Janssen vindt dat toezichthouders daarvoor fundamenteel anders moeten denken. “We moeten af van het idee dat elke toezichthouder zijn eigen ding doet, vanuit de eigen wetgeving en binnen de eigen landsgrenzen. Zo werkt de wereld niet meer.”
