De een vindt het een bedreiging, de ander een kans. Maar het is hoe dan ook een ontwikkeling die organisaties in alle sectoren bezighoudt: digitalisering. Bijzonder hoogleraar Valerie Frissen bestudeert dit onderwerp al sinds de opkomst van het internet. Of beter gezegd: ze onderzoekt de wisselwerking tussen digitale technologie en samenleving. Wat viel haar op in 2021? En wat kunnen toezichthouders daarvan leren?
“Als je terugblikt op 2021, kun je niet om corona heen”, zegt Frissen. “Door de coronamaatregelen verhuisden werk, onderwijs en sociale contacten massaal naar het online domein. Het virus dwong ons op die manier tot een sociaal experiment, waarin we ons als samenleving kranig staande hielden. We hebben echt aanpassingsvermogen en weerbaarheid getoond. Dat maakt 2021 een jaar om trots op te zijn. En tegelijkertijd kunnen we er belangrijke lessen uit trekken.”
Houd organisaties veilig
Het gebruik van digitale technologie schoot in coronatijd omhoog – of dat nu was voor videocalls of voor streamingsdiensten als Netflix. Frissen: “De druk op het internet was enorm. Gelukkig bleek de Nederlandse digitale infrastructuur het prima aan te kunnen.” Wel zag ze de cybercriminaliteit fors toenemen. “Veel organisaties kregen in 2021 te maken met cyberaanvallen – meer dan vóór corona. Ook in ‘mijn’ onderwijswereld. Daar vielen cybercriminelen onder andere de Universiteit van Amsterdam, de Hogeschool van Amsterdam en de Universiteit Maastricht aan. Bij die laatste lag zelfs alles plat tot de universiteit losgeld betaalde.”
Ze noemt deze impact een “wake-upcall” voor alle organisaties en bestuurders: “Het maakte extra duidelijk dat digitale dijkbewaking de volle aandacht verdient. In het hoger onderwijs werden de online beschermingslinies vervolgens razendsnel verbeterd, waarbij organisaties veel kennis en ervaring met elkaar deelden. Zo had de aanval in Maastricht toch nog een positief effect.”
Zorg voor burgerwelzijn
Frissen juicht het toe dat organisaties – van bedrijven tot (semi)publieke instellingen – meer en meer bezig zijn met de eigen cyber security. “Helaas blijft de aandacht voor de online veiligheid van gewone burgers daar fors bij achter. Die maken bijvoorbeeld nog vaak gebruik van zeer onveilige open wifi-netwerken. Zeker de overheid mag zich sterker maken voor een veilige omgeving van burgers. Helemaal als zij van hen verwacht dat ze vaker online zijn.” Frissen vindt ook dat de overheid meer steun mag bieden aan mensen zonder digitale apparatuur of vaardigheden. “Denk aan laaggeletterden. Die vonden het al lastig om mee te doen aan de samenleving, maar dreigen nu volledig buiten de boot te vallen.”
“Ik hoop dat van de toeslagenaffaire geleerd is hoe je digitale technologie wél in moet zetten, maar ik zag in 2021 nog niet veel tekenen van dit inzicht.”
De snelle digitalisering van de samenleving heeft in 2021 nog meer kwetsbaarheden blootgelegd bij de bevolking. “Online contact heeft veel voordelen: het bespaart bijvoorbeeld tijd, gereis en daarmee CO₂-uitstoot. Maar het kan interactie in een fysieke omgeving lang niet altijd vervangen. In 2021 had meer dan de helft van de jongeren psychische problemen doordat ze niet naar hun opleiding mochten en fysieke interactie misten. Heel akelig. Door die problemen had onderwijs vaak minder effect en ontstonden er leerachterstanden.” Social distancing mag het lichaam dan beschermen tegen corona, zegt ze, de psychische gezondheid blijkt er bij veel mensen onder te lijden. “Het is verstandig dat veel organisaties nu proberen om een betere balans te vinden tussen online en analoog werk of onderwijs.”
Haal kennis in huis
Door de coronacrisis voelen veel organisaties de noodzaak om sneller te digitaliseren, ziet Frissen. “In de publieke en semipublieke sector gebruiken zij vaak grote softwarepakketten, veelal van Amerikaanse bedrijven en vaak zonder die digitale systemen goed te bestuderen of begrijpen. Ze gaan bijvoorbeeld niet na wat er precies met data gebeurt. Of hoe de algoritmes burgers, patiënten, cliënten, leerlingen en studenten negatief kunnen raken.” Dát algoritmes negatieve impact kunnen hebben, is volgens haar vaak genoeg gebleken. “Kijk alleen al naar de toeslagenaffaire. De Belastingdienst gebruikte digitale systemen voor risicoprofilering en geautomatiseerde besluitvorming. Mede doordat de menselijke maat helemaal verdwenen was in deze systemen, belandden duizenden gewone burgers in een oneindig doolhof van problemen.”
“Zelfs veel wetgeving voor digitale technologie is nog niet uitgekristalliseerd.”
Frissen hoopt dat van de toeslagenaffaire geleerd is hoe je digitale technologie wél in moet zetten: met voldoende oog voor die menselijke maat. “Maar ik zag in 2021 nog niet veel tekenen van dit inzicht. Het lerend vermogen bij publieke en semipublieke organisaties lijkt vooralsnog laag.” Hoe dat komt? “Deels omdat ze beperkte kennis hebben over digitale technologie, inclusief kunstmatige intelligentie. Daarom raad ik bestuurders en toezichthouders onder meer aan het recente WWR-rapport over digitale technologie te lezen. Hierin vinden ze niet alleen een sterke analyse van de belangrijkste ontwikkelingen op dit vlak, maar ook nuttige aanbevelingen. Bijvoorbeeld om zelf kennis in huis te hebben over digitale technologie, in plaats van deze expertise van buiten te halen.”
Ze verwacht dat die interne kennis publieke en semipublieke organisaties onder andere zal helpen om de juiste software in te kopen. “Niet alleen om goede prijzen af te dwingen, maar vooral ook om scherpe voorwaarden te stellen aan aanbieders. Of om te stimuleren dat er betere alternatieven worden ontwikkeld.” Ook verwacht ze dat meer interne kennis het gebruik van software verantwoorder maakt. “Je weet dan beter hoe je digitale technologie zó kunt inzetten dat de impact op burgers positief is. Die positieve impact moet altijd het streven zijn.”
Ontwikkel een visie
Frissen benadrukt dat een verstandige inzet van digitale technologie méér vereist dan kennis alleen. “Een heldere visie is minstens zo belangrijk. Hoe vindt de overheid dat zij met burgers moet omgaan? Welke publieke waarden zijn in het geding? En hoe moet zij dus digitale technologie inzetten? Onder beleidsmakers en wetenschappers is er momenteel veel discussie over deze vragen. En er komen steeds meer lijstjes met morele principes over de inzet van kunstmatige intelligentie – ook vanuit de Europese Commissie . Zo moet digitale technologie uitlegbaar zijn en het gebruik ervan transparant. Belangrijk is bovendien de impact in te schatten en daarop te anticiperen.”
“Is het wenselijk een overkoepelende Autoriteit Algoritmes in te stellen, zoals in het nieuwe coalitieakkoord staat?”
Toch had de Nederlandse overheid in 2021 nog geen overkoepelende visie voor al haar departementen en publieke of semipublieke organisaties. “Er is helaas nog geen vanzelfsprekend moreel kader voor ieders inzet van digitale technologie. Zelfs veel wetgeving voor digitale technologie is nog niet uitgekristalliseerd.” Het resultaat is volgens Frissen dat al die departementen en organisaties nog een eigen omgang hebben met digitale technologie – bijvoorbeeld met data en algoritmes. “Toezichthouders weten daardoor niet goed waar ze op moeten letten. Bovendien is nog onduidelijk welke vorm toezicht eigenlijk zou moeten krijgen. Is het bijvoorbeeld wenselijk een overkoepelende Autoriteit Algoritmes in te stellen, zoals in het nieuwe coalitieakkoord staat? Of haal je dan te veel verantwoordelijkheid weg bij individuele departementen en organisaties?”
Zorg voor verantwoording
“Financiële accountability is de normaalste zaak van de wereld”, zegt Frissen. “Zeker voor de publieke en semipublieke sector. Iedereen vindt het vanzelfsprekend dat organisaties verantwoording afleggen en transparant zijn over hun omgang met geld. Dat zou wat mij betreft net zo vanzelfsprekend moeten zijn voor hun omgang met data en algoritmes. Waarom bijvoorbeeld geen jaarverslag over datahuishouding?”
“Hier ligt een interessante nieuwe rol voor toezichthouders: checken of de datahuishouding van organisaties in orde is.”
Ze ziet de laatste jaren wel een beweging in die richting. Ook in 2021. “Accountants nemen nu al steeds vaker ICT-processen mee in hun beoordeling, omdat die ook de financiële huishouding raken. Maar zij belichten niet de hele datahuishouding. Externe toezichthouders zouden dat wel kunnen doen. Daar ligt een interessante nieuwe rol voor hen: checken of de datahuishouding van organisaties in orde is.”
Accountability op het vlak van digitale technologie zou volgens Frissen flink bijdragen aan een verantwoord gebruik ervan. “Ik weet dat er van tijd tot tijd doemscenario’s opduiken over de impact van deze technologie. Bijvoorbeeld dat artificial intelligence zó slim zal worden dat ze ons in haar macht krijgt. En natuurlijk kent digitale technologie risico’s en gebreken. Ik ben zeker niet van de juichverhalen. Maar die doemscenario’s vind ik evenmin realistisch.” Hoe digitale technologie de samenleving precies verandert, laat zich moeilijk voorspellen, zegt ze. “Maar als organisaties er verantwoord mee omgaan, kan ze een positieve kracht zijn. Daar ben ik nog steeds optimistisch over.”
Wie is Valerie Frissen?
Valerie Frissen is Bijzonder Hoogleraar Digitale Technologie & Sociale Verandering aan de Universiteit Leiden. Zij bekleedt deze leerstoel sinds 2013, eerst bij de Erasmus Universiteit in Rotterdam en sinds 2018 in Leiden. Frissen is ook directeur van het SIDN fonds, dat in Nederland projecten financiert die het internet versterken of internet op een vernieuwende manier inzetten.
