Marleen Stikker, directeur van de Europese onderzoeksinstelling Waag, stond aan de wieg van het internet. Maar haar aanvankelijke enthousiasme maakte plaats voor grote zorgen. Vooral het gebrek aan dataveiligheid gaat haar aan het hart. Maar het tij is te keren. Met meer wetgeving, toezicht en het investeren in openheid en publieke alternatieven.
The sky is the limit begin jaren negentig. Samen met hackers en kunstenaars bouwt Marleen Stikker aan De Digitale Stad (DDS), een van de eerste sociale mediaplatforms op het internet. De gezamenlijke drijfveren zijn democratisering van technologie, creativiteit en het kritisch volgen en benoemen van machtsmisbruik op het internet. De gemeente Amsterdam is een van de eerste overheden die in De Digitale Stad experimenteert met open data. Zo besluit de gemeente het hele bestuurlijke informatiesysteem van de stad via DDS met alle burgers te delen. Stikker zorgt voor de eerste gratis toegangspoort tot DDS, zodat meer mensen toegang krijgen tot het internet.
Data als verdienmodel
Bijna dertig jaar later constateert Stikker – inmiddels directeur van Waag, een Europese onderzoeksinstelling voor technologie en maatschappij – dat alle waarschuwingen over machtsmisbruik in de wind zijn geslagen. En dat we nu tot haar afgrijzen in een nachtmerriescenario terecht zijn gekomen. “Het probleem is dat de handel in persoonlijke data en profielen van mensen niet aan banden is gelegd. Sterker nog, techreuzen hebben van data hun verdienmodel gemaakt. Ze handelen met data van burgers en door gebrekkig toezicht kunnen ze dat bijna zonder consequenties doen.
Terwijl de Autoriteit Persoonsgegevens de privacyklachten van burgers niet meer kan bijbenen, blijft de overheid de hand op de knip houden bij de financiering van toezichthouders. En de overheid geeft zelf ook niet het goede voorbeeld, want ministeries en veiligheidsdiensten maken handig gebruik van gaten in de wetgeving en ontwikkelen zich tot big brother.”
Minister van digitale zaken
Wetgeving helpt, stelt Stikker, die sinds maart dit jaar deel uitmaakt van de adviesraad van de Autoriteit Persoonsgegevens. “De Europese privacywetgeving, GDPR – met daarvan afgeleid de AVG – is wereldwijd omarmd. Ook verwacht ik veel van de Wet inzake digitale markten en de Wet inzake digitale diensten, die nu ter goedkeuring bij het Europees Parlement liggen. Met deze wetten kunnen techbedrijven aan banden worden gelegd en kan oneerlijke concurrentie worden tegengegaan. Dat gaat een groot verschil maken.”
“Nederland heeft een minister van Digitale Zaken nodig.”
Als het aan Stikker ligt, krijgt dataveiligheid dezelfde status als voedselveiligheid. “Dataveiligheid verdient net zoveel aandacht. Voedsel wordt op veel niveaus gecontroleerd: veevoer, leefomstandigheden, temperatuur van de koelcellen, ingrediënten van producten. Dat ontbreekt bij data, waar omheen ook een groot ecosysteem bestaat: applicaties, hardware, appstores, browsers, sensoren, telecomnetwerken. Op elk van die lagen kan onveiligheid ontstaan. Het is een enorm grote markt waar toezicht op gehouden moet worden. Bovendien manifesteren de toepassingen zich in alle domeinen van de samenleving.
Digitale expertise hoort bij álle toezichthouders ontwikkeld te worden, omdat het álle beleidsterreinen raakt: van jeugdzorg tot mobiliteit. Daarom heeft Nederland ook een minister van Digitale Zaken nodig. Die overkoepelend kan zeggen: Wat mag wel? Wat staan we toe? Hoe maken we zinvol gebruik van data? En hoe voorkomen we crimineel gedrag van techleveranciers?”
“Technologie is niet neutraal. Het is een set van regels die door mensen wordt bepaald.”
Misstanden voorkomen
Effectief toezicht is geen kwestie van achteraf lijmen wat aan de voorkant niet goed is gegaan, benadrukt Stikker. “Voorkomen is beter dan genezen. Technologie is niet neutraal. Het is de mens die de technologie bouwt, en die bepaalt volgens welke regels dat gebeurt. Over die regels moet je vooraf in gesprek gaan. Bijvoorbeeld over de ethische consequenties, zoals discriminatie of privacy. Door hier in de technologie – de algoritmes – rekening mee te houden, voorkom je dat je achteraf naar misstanden moet kijken, zoals bij de Toeslagenaffaire bij de Belastingdienst nu het geval is.”
Openheid verplichten
“Door ontwikkelaars te verplichten de broncode – het leesbare tekstbestand over de werking en functionaliteit van een programma – van hun hardware of software te delen, open source, kan iedereen meekijken. Burgers, andere ontwikkelaars, toezichthouders. Zo zorg je dat volgens de regels van de samenleving ontwikkeld wordt. De overheid moet die openheid verplicht stellen. Ook is het belangrijk dat de samenleving aan de ontwerptafel zit en helpt richting te geven aan technologie. De overheid stelt dan eisen aan de manier waarop technologie ontwikkeld wordt, en ontwikkelt beleid.”
“Bijna alle politieke partijen beloven zich in te zetten voor strenger toezicht op algoritmes.”
Open source heeft inmiddels ook zijn intrede gedaan bij de overheid. Bij DUO en VNG hielp open source om te komen tot een andere manier van gegevensuitwisseling. “Medewerkers raadplegen data nu direct bij de bron in plaats van het steeds te kopiëren en op te slaan. Daarmee is hun gegevensverwerking AVG-proof. Deze verbetering is te danken aan een paar pioniers bij de organisaties. Als we meer vaart willen maken met dataveiligheid, moeten zulke change agents bij de overheid alle ruimte krijgen.”
Stembusakkoord
Politiek lijkt Stikker het tij mee te hebben. In aanloop naar de recente Tweede Kamerverkiezingen ondertekenden alle partijen – met uitzondering van de VVD en het CDA – het Stembusakkoord dat door Bits of Freedom, Amnesty International, Open State en Waag was opgesteld voor veilige digitalisering en mensenrechten. De komende regeerperiode conformeren de partijen zich aan de elf regels in het akkoord. “Ze beloven zich in te zetten voor onder andere strenger toezicht op algoritmes, vanwege de toeslagenaffaire. En voor voldoende middelen voor de Autoriteit Persoonsgegevens, zodat zij burgers beter kan beschermen. Digitalisering hoort bij de prioriteiten van een komend kabinet.”
