Nederland heeft er een nieuwe toezichthouder bij: de Autoriteit online Terroristisch en Kinderpornografisch Materiaal. Die zorgt ervoor dat platforms en providers uitingen van terrorisme en kindermisbruik van internet af halen. Het is nodig: “Door sociale media hebben de uitwassen een enorme vlucht genomen.”
Een schietpartij die van dichtbij is gefilmd. Een onthoofding. Een kind dat seksueel wordt misbruikt. Filmpjes die oproepen tot geweld of uitleggen hoe je jezelf kunt pijnigen zonder dat iemand er iets van merkt. Het is allemaal te vinden op internet. En ze worden massaal verspreid via sociale media. In Frankrijk spanden zeven families onlangs een rechtszaak aan tegen TikTok, omdat het platform volgens hen schuldig is aan de mentale problemen en zelfs zelfmoord van hun tienerkinderen. Het algoritme van TikTok schotelde hen constant video’s voor die suïcide, zelfkastijding en eetstoornissen promoten.
De Autoriteit online Terroristisch en Kinderpornografisch Materiaal (ATKM) is opgericht terroristisch en kinderpornografisch materiaal snel van platforms en providers af te krijgen die in Nederland gevestigd zijn. “Internet was ooit bedoeld als een gezellig plein waar mensen samenkomen, informatie vinden en kennis uitwisselen”, zegt Arda Gerkens, bestuursvoorzitter van de ATKM. “De gedachte was altijd dat een vrij en open internet voor empowerment en een versterking van de democratie zou zorgen. Daardoor is er nooit veel aandacht besteed aan de veiligheid ervan en was er ruimte voor uitwassen. Maar internet is allang geen gezellig plein meer. Hoe meer sensatie, hoe meer views.”
Makkelijk vindbaar
In de naam van de ATKM staan terrorisme en kinderpornografie. Twee dingen die ver uit elkaar lijken te liggen. Maar als het om online misbruik gaat, zijn er veel overeenkomsten, licht Gerkens toe. “Materiaal wordt steeds radicaler en de methode waarop grooming en ronselen voor radicale denkbeelden plaatsvindt is hetzelfde.” Bij grooming zoekt een volwassene via internet contact met een kind om het vertrouwen te winnen. Het doel is vaak om het kind later te manipuleren en te misbruiken.
“Materiaal wordt steeds radicaler.”
Voor online terroristisch materiaal bestaat geen meldpunt, online seksueel kindermisbruik kan gemeld worden bij Meldpunt Kinderporno. Het meldpunt verzoekt platforms om de inhoud te verwijderen, maar kan dat niet verplichten. De ATKM kan dat wel. Medewerkers van de autoriteit speuren het internet continu af op zoek naar opruiend en schokkend materiaal. Niet in de krochten van het internet – “niet op het darkweb, we mogen alleen oordelen over het openbare internet” -, maar op platforms die voor iedereen toegankelijk zijn. “Helaas hoeven we niet hard te zoeken”, zegt Gerkens. “Wereldwijd vinden er bijvoorbeeld behoorlijk wat aanslagen plaats waarover wij hier amper iets horen. Ze worden gefilmd en verspreid via allerlei platforms.”
Heftig werk
De medewerkers krijgen veel schokkende beelden onder ogen. “Ik zie de beelden zelf ook wel eens. Ik heb veel respect voor mijn collega’s, het is heftig werk. Daarom hebben ze regelmatig verplicht een gesprek met een psycholoog, die kijkt hoe het met hen gaat. Ook is er veel ruimte om emoties te delen en voor luchtigheid. Samen wandelen en lunchen, spelletjes doen. Er staan hier bijvoorbeeld een tafeltennistafel en een tafelvoetbalspel. Ontspanning is echt nodig.”
“Medewerkers hebben regelmatig een gesprek met een psycholoog.”
Voordat de ATKM een platform of provider sommeert om materiaal te verwijderen, is er intern een heel proces doorlopen. Gerkens: “Er is een goede argumentatie nodig. Als we iets bestempelen als ‘terroristisch’, moeten we dat bijvoorbeeld hard maken door aan te tonen dat het aanmoedigt tot het plegen van een terroristisch misdrijf of dat het een misdrijf verheerlijkt of verdedigt. Als we de onderbouwing klaar hebben, krijgt het platform een uur om het spul te verwijderen. Gebeurt dit niet, dan kunnen we een boete of een last onder dwangsom opleggen. De hoogte is afhankelijk van de omzet van het bedrijf.” De ATKM spoort makers van de content niet op. “Dat is de taak van de politie en het Openbaar Ministerie. We werken wel met hen samen, we wisselen onder meer informatie uit over gevonden materiaal.”
Vooruit helpen
Met platforms waarop regelmatig materiaal te vinden is, gaat de ATKM in gesprek. “We willen deze partijen helpen. Grote partijen werken bijvoorbeeld met algoritmes die voorkomen dat verwijderd materiaal nog een keer online gaat. Kleinere partijen hebben die mogelijkheden vaak niet. Zij kunnen leren van de grote spelers, die staan daar voor open. Wij brengen ze met elkaar in contact.”
“Schokkende beelden zijn niet grappig of interessant. Verspreiding ervan moet stoppen.”
In de praktijk komt het regelmatig voor dat filmpjes die verwijderd zijn, ergens anders weer opduiken. Soms in een iets gewijzigde vorm, waardoor algoritmes deze niet herkennen. Toch voelt het voor Gerkens niet als water naar de zee dragen. “De kennis binnen de sector neemt verder toe en ook wet- en regelgeving helpt steeds beter om online terroristisch en kinderpornografisch materiaal te verwijderen. Samen werken we aan een toekomst waarin we voorkomen dat materiaal online gaat.”
Delen is niet onschuldig
Ook internetgebruikers spelen daarin een belangrijke rol, zegt ze. “Sommige mensen denken dat het grappig of interessant is om terroristische of kinderpornografische beelden te delen. Maar dat is het niet. Het verspreiden van die beelden moet stoppen. Uit respect voor de slachtoffers, en om erger te voorkomen. Daar is iedereen bij gebaat.”
