00:00:00
Carolien Lindeman, tekstschrijver van ToeZine: Welkom bij deze gelegenheidspodcast van ToeZine. Bij ons vind je normaal alleen geschreven verhalen over toezicht en voor toezichthouders, maar in het kader van ons tienjarig bestaan hebben we nu ook vier speciale podcasts van elk 10 minuten gemaakt. De Tien van ToeZine. Ik ben Carolien Lindeman en schrijf voor ToeZine. Samen met hoofdredacteur Mirjam Prinsen gaan we vier afleveringen lang in gesprek met toezichtexperts over grote thema’s binnen het toezicht. Allereerst, welkom Mirjam.
00:00:27
Mirjam Prinsen, hoofdredacteur van ToeZine: Dankjewel. Het belooft weer een interessante uitzending te worden.
00:00:29
Carolien Lindeman, tekstschrijver van ToeZine: Ik denk het ook, want deze derde aflevering gaan we in gesprek met onderzoeker Haiko van der Voort over de kansen en bedreigingen van AI voor toezichthouders. Welkom Haiko.
00:00:39
Haiko van der Voort, onderzoeker bij de TU Delft: Dankjewel.
00:00:40
Carolien Lindeman, tekstschrijver van ToeZine: Leuk dat je hier bent. Jij hebt veel met AI, hè?
00:00:45
Haiko van der Voort, onderzoeker bij de TU Delft: Jazeker.
00:00:47
Carolien Lindeman, tekstschrijver van ToeZine: Kun je dat uitleggen?
00:00:49
Haiko van der Voort, onderzoeker bij de TU Delft: AI zie ik als een belangrijke innovatie. Nou moet je bedenken, ik ben geen ingenieur, geen techneut. Dus ik ben geen computerdeskundige die alles over de technische kant van AI weet. Ik ben wel een bestuurskundige en dan is het interessant wat zo’n innovatie nou doet binnen zo’n organisatie van de toezichthouder. En dan bedenk je dat AI, da’s natuurlijk kennis vanuit een computer, dat een computer heeft gegenereerd of geïnterpreteerd. Maar je hebt ook menselijke kennis daarnaast. Praktijkkennis, ervaringskennis, intuïtie. Heel menselijk. En dat komt dan allemaal bij elkaar. En hoe organiseer je dat? En het tweede, die vind ik ook heel belangrijk. Dat is een hele grote vraag, maar ik ben altijd gefascineerd door de vraag: hoe ontstaan normen? En nou weten we bij technologische innovaties als AI, die technologie gaat soms veel sneller dan de wet. De wet is dus langzamer, dus er ontstaat een ruimte. Dus daar waar er nog geen wettelijke normen zijn, maar al wel de praktijk. En hoe ontstaan dan normen als de wet er nog niet is? Nou, dat zien we momenteel bijna live.
00:02:00
Carolien Lindeman, tekstschrijver van ToeZine: Oh, interessant. Gaan we het daar later nog over hebben of kan ik je daar beter nu alvast naar vragen? Naar wat we live zien?
00:02:06
Haiko van der Voort, onderzoeker bij de TU Delft: Wat jij wilt.
00:02:08
Carolien Lindeman, tekstschrijver van ToeZine: Euh, dan wachten we daar nog heel even mee, want ik ben ook benieuwd, Mirjam, hoe kijk jij tegen AI aan en AI in toezicht?
00:02:18
Mirjam Prinsen, hoofdredacteur van ToeZine: Ja nou ja, wij merken bij ToeZine dat AI en data en algoritmes. Het is constant bij ons op de agenda, maar er zit ook altijd een soort dubbelhartigheid omheen. Van aan de ene kant vinden we het heel eng en spannend en vinden we dat we daar streng en toezicht op moeten houden. En aan de andere kant zeggen we ook van ja we moeten gebruikmaken van AI en chat GPT en alles wat die techniek ons te bieden heeft. Ja, er zit soms een soort spanningsveld en ook een soort zelfverloochening in van kunnen we het één wel doen zonder het ander?
00:03:00
Carolien Lindeman, tekstschrijver van ToeZine: Haiko, wat doen toezichthouders nu al met AI?
00:03:05
Haiko van der Voort, onderzoeker bij de TU Delft: Uh, heel wat, maar ook weer niet zoveel. Dat is altijd de vraag. We hebben natuurlijk allemaal hele grote verhalen wat AI allemaal wel niet kan, maar heel veel projecten zijn relatief voorzichtig. Ik zal een paar voorbeelden geven. Ik pak hem eventjes op van wat is toezicht nou eigenlijk? Dat is denk ik wel belangrijk. Een heel klassieke definitie vanuit de Rekenkamer: we gaan informatie verzamelen. Dat is een belangrijk onderdeel. Je interpreteert die informatie. Je gaat een oordeel vormen over wat je ziet van een bedrijf of van een persoon. Een vergelijking, een oordeel. Op basis van het oordeel ga je eventueel handhaven.
Informatie verzamelen, dat deden we al. En heel veel teksten, rapporten worden geproduceerd. Veel gesproken tekst ook. We hebben al camera’s hangen, sensorbeelden, allemaal kunnen we dat zien als data. Hebben we geen AI voor nodig. Maar het gaat hem om het interpreteren van die data, heel veel soorten data. En we willen eigenlijk weten uiteindelijk wat zijn nou de bedrijven of de personen die we nog eens een keertje met een bezoekje moeten vereren of moeten aanschrijven. Dat is een risicoanalyse en daarvoor heb je dus een interpretatie van al die verschillende soorten data nodig. Daarvoor is het wel handig om artificiële intelligentie te gebruiken. Kijk naar bijvoorbeeld slachthuizen. Daar hebben we allemaal camera’s hangen. We kunnen aan karkassen zien, dat is waar de NVWA mee bezig is, of ze daar volgens de regels hebben geslacht. Of daar rare littekens, rare plekken in zitten. Je kunt met trainen van beelden daar al een eerste interpretatieslag van maken. Een ander voorbeeld: je kunt aan de beweging van schepen op zee zien of ze iets dumpen. Dus ook daar sensoren, die bewegingingen, die kunnen ook een eerste risicoindicatie geven. Dus we gaan van eenvoudigweg informatie verzamelen naar een volgende stap: het interpreteren van informatie. En daar speelt de computer dus in de toekomst en nu al een rol.
00:05:15
Carolien Lindeman, tekstschrijver van ToeZine: Dat toezichthouders dit steeds meer gebruiken en in de toekomst ongetwijfeld nog meer, wat heeft dat voor effect op toezicht zelf?
00:05:24
Haiko van der Voort, onderzoeker bij de TU Delft: Het zal geavanceerder zijn en het zal efficiënter zijn, dat zijn de voordelen. Het is ook een beetje afhankelijk aan wie je het vraagt hè. Dus als je het aan een ingenieur/computerdeskundige uh vraagt dan wordt het veel geavanceerder en efficiënter. Wat ook geavanceerder wordt, is het spel tussen de data specialist, de mensen die met AI bezig zijn, en de inspecteurs, de ervaringsdeskundigen.
Wat ook geavanceerder gaat worden, is het spel tussen de toezichthouder en de ondertoezichtstaande die net zo goed AI gebruikt. Dus daar gebeurt wel wat. Maar als je het niet aan een ingenieur vraagt, maar je vraagt het aan een jurist of je vraagt het aan een ethicus.Dan krijg je veel voorzichtigere verhalen van: pas op, moeten we nou echt. Een interpretatie van informatie is oké, maar richting een oordeel, ja, daar horen toch eigenlijk wel mensen bij. Of zou daar misschien niet een samenspel tussen mens en machine een rol kunnen spelen? Dan wordt het natuurlijk een stuk gevaarlijker. Want ja, als er over jou geoordeeld wordt, met als gevolg dat je misschien wel een boete kunt krijgen, dan wil je wel dat dat zorgvuldig gebeurt en dat moeten we dan wel kunnen garanderen. Dus daar krijg je een heel ander soort vragen van. En zoals je weet als organisatiekundige stel ik alweer heel andere vragen. Hoe ontstaan die normen in een organisatie en hoe verspreidt die kennis zich over een organisatie?
00:06:54
Mirjam Prinsen, hoofdredacteur van ToeZine: In 2017 schreef jij een column, of niet een column, maar werkte je mee aan een artikel. En daar was jouw statement dat er misschien wel een beetje een te afwachtende houding was bij toezicht ten aanzien van die innovaties op het gebied van data en AI. En jij riep volgens mij op toen om te gaan samenwerken met civil scientists en is chat GPT dan eigenlijk zo’n civil scientist waar jij op doelde?
00:10:14
Haiko van der Voort, onderzoeker bij de TU Delft: Nou toen doelde ik niet op Chat GPT, maar wat het wel zou kunnen opleveren is het volgende: Chat GPT, in tegenstelling tot allerlei AI-vormen voor risicoanalyse, is heel erg toegankelijk, dus het verspreidt zich heel snel. Iedereen kan het gebruiken, dus in die zin kan het wel een oorsprong van samenwerking zijn. In ieder geval zal het leiden tot bijzondere discussies over toezichtrelevante onderwerpen, omdat iedereen al heel snel relatief deskundig is. Je zal daarbij echt wel moeten vragen wat zijn jouw bronnen nou? En dat is bij generatieve AI een hele ingewikkelde vraag.
00:08:12
Carolien Lindeman, tekstschrijver van ToeZine: Haiko, kun jij voor ons een mogelijk toekomstbeeld schetsen? Gaat AI in de toekomst alle inspecteurs vervangen bijvoorbeeld? Om maar even iets heel extreems te noemen.
00:08:22
Haiko van der Voort, onderzoeker bij de TU Delft: Daar ga ik een heel duidelijk antwoord op geven: nee. Ik geloof echt in de kwaliteit van de professionele inspecteur. En als je het vraagt aan en dat noem ik even de knappe koppen. Dat zijn de mensen van de analytische afdelingen van de verschillende inspecties, die onderschrijven dat onmiddellijk. Die gaan echt de boel niet overnemen daar zo bij die inspecties. Maar het is wel een interessante vraag hè? Wat voor toekomst kun je nou verwachten? Ik noem er even een paar. Ik pak mijn organisatorische kant even, het is nu nog een beetje de knappe koppen analytische kant aan de ene kant en de rest van de organisatie inspecteurs aan de andere kant. Ik geloof dat er een nieuwe generatie komt. Mensen die technische kennis, computerkennis kunnen vermengen met strategische kennis. Alleen dan heb je daar wel opleidingen voor nodig. Die ontstaan ook wel hoor. Opleidingen nodig die aandacht voor beide hebben.
Het tweede is, een nieuwe professionaliteit gaat er ontstaan. Het is wel leuk, er stond vandaag in de krant: Nobelprijs voor de scheikunde. Er is een AI-toepassing. die kon de code van eiwitten kraken. Maar dat had dat natuurlijk nooit kunnen doen als wij niet als mensen al heel veel kennis over überhaupt die eiwitten hebben kunnen ontwikkelen. Dus we moeten weten wat we kunnen vragen. Dus dat is een samenspel. Daar ontstaat dus een nieuwe professionaliteit. Geldt ook voor de generatieve AI. Je moet weten wat voor vragen je kunt stellen en je moet de antwoorden kunnen beoordelen. Dus dat is een nieuwe professionaliteit. En dan de grote vraag die rond AI ook spelt: waar gaan al die data dan naartoe? Moeten we daar dan niet bang voor zijn? Of we daar bang voor moeten zijn, durf ik niet te zeggen. Ik vermoed wel dat er steeds ook meer lokaal veel meer kennis ontstaat om AI-tools te ontwikkelen. Er komen lokale generatieve AI-platforms en misschien is het wel zoals bij andere markten ook wel het geval is. Een heel lelijk woord heet glokalisering. Naarmate de wereld en bedrijven en bedrijvigheid groter wordt en op afstand komt, krijgen we behoefte aan het lokale en misschien ontstaan er wel mooie lokale varianten van AI-toepassingen.
00:10:47
Carolien Lindeman, tekstschrijver van ToeZine: Mirjam, als je dit allemaal zo hoort van Heiko, hoe kijk jij dan tegen AI aan nu?
00:10:57
Mirjam Prinsen, hoofdredacteur van ToeZine: In eerste instantie denk ik dat ik dan heel erg blij ben dat er zulke slimme mensen zijn zoals Haiko. Maar tegelijkertijd denk ik ook het is ook een mooi wenkend perspectief denk ik, om die professionaliteit van het toezicht verder te verdiepen.
00:11:11
Carolien Lindeman, tekstschrijver van ToeZine: Ja, mooi. Mooie afsluiter heb jij hier te pakken volgens mij. Haiko, dankjewel voor deze inzichten. Je hebt ons weer wat wijzer gemaakt over AI en de luisteraar hopelijk ook.
Bedankt voor het luisteren naar deze Tien van ToeZine. Hopelijk weet je ook onze volgende en laatste aflevering te vinden. Dan spreken we over de toekomst van toezicht met onderzoeker Meike Bokhorst. Tot die tijd vind je natuurlijk onze geschreven verhalen op ToeZine.nl.
