“Wij zien het nut en de noodzaak niet van één toezichthouder op algoritmen”

De telecomsector digitaliseert razendsnel. Data moeten overal beschikbaar zijn, bedrijfsprocessen worden digitaal en thuiswerken is de standaard. Toezichthouder Agentschap Telecom ziet dat Artificial Intelligence (AI) hierin een steeds grotere rol speelt. Maar ook in andere sectoren wordt AI steeds meer toegepast. Hoe gaat Agentschap Telecom hiermee om?

Emoties herkennen, auto’s laten rijden of ingewikkelde problemen oplossen. AI kan menselijke functies automatiseren met hulp van slimme algoritmes. Dat biedt bijna onbegrensde mogelijkheden, maar brengt ook risico’s met zich mee. Wie bewaakt al die data bijvoorbeeld? En hoe communiceren verschillende AI-systemen met elkaar? Agentschap Telecom volgt deze ontwikkelingen op de voet. Om goed toezicht te kunnen houden op de eigen telecom- en energiesector, maar ook om andere toezichthouders te adviseren. Angeline van Dijk, directeur-hoofdinspecteur van Agentschap Telecom (AT), legt uit hoe AT haar rol als toezichthouder ziet en hoe zij andere toezichthouders kan helpen met haar kennis over kunstmatige intelligentie.

Van telecom naar digitale infrastructuur

“Wij zien het als onze taak om dé autoriteit te zijn op het gebied van de gehele digitale infrastructuur.”

Daarmee bedoelt Van Dijk dat AT telecomtoezichthouder blijft, maar tegelijkertijd een rol wil pakken als technisch adviseur. Vooral als het gaat om de techniek waarop innovaties als 5G en het Internet of Things bouwen. Van Dijk: “We gaan geen eisen stellen aan een zelfrijdend voertuig, maar kunnen wel met de RDW of de Inspectie Leefomgeving en Transport meedenken over databeheer rondom verkeer en vervoer. Hoe grijpt dat in elkaar? Waar zitten de risico’s? Daar kunnen wij meerwaarde bieden met onze expertise op dit vlak.”

Over grenzen heen

Deels is de broodnodige kennis over technologische ontwikkelingen al aanwezig bij het agentschap. Onder meer door intensief samen te werken met allerlei toezichthouders en kennisinstituten op Europees niveau. We dagen elkaar uit en maken elkaar sterker. Maar ook binnen onze landsgrenzen valt een hoop kennis te vergaren. Onlangs vroeg AT aan onderzoeksbureau Dialogic een analyse te maken van het (toekomstige) gebruik van kunstmatige intelligentie in de telecomsector en de daaraan verbonden kansen en risico’s.

Acceptabel risico of niet?

Uit de analyse van Dialogic volgde onder meer een risicomodel, dat laat zien waar de risico’s rondom kunstmatige intelligentie zitten. Heeft de ontwikkelaar of gebruiker van het AI-systeem bijvoorbeeld rekening gehouden met ongewenste effecten van datagebruik? Het risicomodel kent ‘scores’ toe aan heel veel verschillende aspecten van elke beschikbare AI-toepassing. Denk aan zelflerend vermogen, voorspelbaarheid en mogelijke schade die hij veroorzaakt. Al die scores leiden tot een gewogen rapportcijfer, waarvan je vervolgens bepaalt of dat een acceptabel risico is. Aanvaard je dat risico of zijn er maatregelen nodig? Van Dijk: “Het model helpt zo te bepalen of de toepassing op zich acceptabel is, maar kan ons als organisatie ook helpen om vooraf te bepalen of er voldoende rekening wordt gehouden met alle risicoaspecten. Bij al bestaande AI-toepassingen wijst het model de meest risicovolle aspecten aan. Dat maakt het ook voor andere toezichthouders een handige tool. AI beperkt zich immers niet tot één sector.”

Het risicomodel in de praktijk

Het risicomodel kan de risico’s in kaart brengen bij allerlei AI-toepassingen. Zoals bij het bereikbaar houden van alarmnummer 112. Om bereikbaarheid te garanderen, moet er ruimte zijn op het netwerk. Dat kan op twee manieren. Er kan altijd een deel van de capaciteit van het netwerk gereserveerd zijn voor hulpdiensten – een soort digitale vluchtstrook – of de capaciteit van gebruikers met aan lagere prioriteit daalt als hulpdiensten het netwerk nodig hebben. Maar wat is de beste keuze? Een mens of systeem dat een telecomnetwerk ontwerpt en beheert moet deze voor- en nadelen afwegen binnen een normatief kader. Een AI-systeem is mogelijk niet in staat zelf de passende normatieve afwegingen te maken.

“Met het risicomodel kun je zulke ‘ontwerpfouten’ systematisch signaleren en verbeteren.”

“Stel dat er een calamiteit is op een locatie met beperkte netwerkcapaciteit”, vertelt Angeline. “Er is bijvoorbeeld een explosie op een muziekfestival. Hulpdiensten willen dan op die locatie kunnen communiceren, maar omstanders net zo goed. Hoe verdeel je dan de beschikbare netwerkcapaciteit? Een mens kent het belang van de hulpdiensten, dus zal die voorrang geven, maar een AI-systeem heeft die kennis niet per se. Die baseert de verhouding op geleerde kenmerken uit het verleden. Dat is een groot risico voor het functioneren van de hulpdiensten. Het risicomodel helpt ons op twee manieren om inzichtelijk te maken of zo’n risico bestaat. Ten eerste door na te gaan wat de rol van het AI-systeem is in het grotere geheel, waardoor duidelijk wordt of er een kans is dat het zelfstandig voor zulke beslissingen komt te staan. Ten tweede helpt het ons nagaan of er een risico bestaat dat niet alle noodzakelijke informatie in de bouw van het AI-systeem is meegenomen om goede beslissingen te nemen. Zoals in dit geval kennis over het belang van hulpdiensten.”

Toezicht op algoritmen

Ook het kabinet ziet de kansen en risico’s die AI met zich meebrengt. Daarom onderzocht het de toegevoegde waarde van een aparte toezichthouder op algoritmen. Die toezichthouder komt er uiteindelijk niet, mede op aanraden van AT. Van Dijk: “Wij zien het nut en de noodzaak er niet van. Algoritmen zijn slechts een onderdeel van de hele digitale infrastructuur. Eén onderdeel eruit pakken heeft geen zin. Stel dat je toezicht houdt op algoritmen. Dan kijk je dus puur naar de rekenmethoden achter AI. Maar op het dataverkeer waarop die algoritmen los worden gelaten heb je geen grip, want dat staat in de cloud. AI, de cloud en het Internet of Things hangen nu eenmaal samen. Dus moet je ze als geheel bekijken.”

“Wij zien voor onszelf wél een rol weggelegd als toezichthouder op de techniek op zich, het generieke deel van AI.”

En een toezichthouder op die hele keten dan? “Dat is bijna onmogelijk”, legt Van Dijk uit. “De toepassing van deze technologie is zo specifiek per sector. AI in de zorg is iets totaal anders dan AI in het onderwijs. Het is aan toezichthouders op de desbetreffende sectoren om dat in de gaten te houden. Wij zien voor onszelf wél een rol weggelegd als toezichthouder op de techniek op zich, het generieke deel van AI. Wij kunnen de kennis over de kansen en gevaren van het hele systeem verspreiden onder toezichthouders in verschillende sectoren. Die kunnen daar vervolgens binnen hun eigen sector mee aan de slag. Zij weten als het goed is wat voor kansen en risico’s zich voordoen in hun branche. Wij houden ons bezig met digitalisering van de telecom- en energiesector en staan daarnaast klaar als kennispartner voor andere toezichthouders.”