De politie heeft eerder een internetfilter voor afbeeldingen van seksueel misbruik van kinderen opgetuigd. Onderzoekers van het eigen ministerie vonden dat toen, drie jaar geleden, onwettig. De politie werkt nu mee aan proef met een nieuw filter. Kan dit filter wel door de beugel?
De politie doet veel en ontzettend belangrijk onderzoek naar de makers en verspreiders van afbeeldingen van seksueel misbruik van kinderen. Alle afbeeldingen die de politie tegenkomt, worden opgeslagen voor later onderzoek. Om die verzameling snel digitaal te kunnen doorzoeken heeft de politie een cryptografische samenvatting van elk van de afbeeldingen gemaakt.
Websites waar gebruikers veel plaatjes uploaden, zoals TwitPic, Flickr en MobyPicture, kunnen die plaatjes nu tegen dat overzicht houden. Het idee is best simpel. Zodra je een afbeelding upload maakt de website daar vliegensvlug een samenvatting van. In technisch jargon heet die samenvatting een ‘hash’. Die samenvatting wordt vervolgens opgezocht in het overzicht van de politie. De upload wordt geweigerd als de ‘hash’ die van een bekende afbeelding blijkt te zijn. De proef met dit filter werd vorige maand gelanceerd. Maar is deze opzet wel zo goed?
Behalve in onze grondwet hebben we de vrijheid van meningsuiting ook in het Europees Verdrag van de Rechten van de Mens (‘EVRM’) opgenomen. Die vrijheid om te publiceren en te lezen wat je maar wilt is heel erg belangrijk. Daarom hebben we in dat verdrag ook afgesproken dat de overheid die vrijheid alleen onder bepaalde voorwaarden mag inperken. Zo moet het beknotten van de vrijheid van meningsuiting in de wet zijn vastgelegd en ‘in een democratische samenleving noodzakelijk’ zijn.
De beslissing wat jij mag publiceren is zo’n inperking. Bij dit filter wordt door de politie bepaald welke plaatjes worden geweigerd en welke niet. Immers, het overzicht met de bekende afbeeldingen van seksueel misbruik van kinderen wordt (terecht!) beheert door de politie. Daar komt ook nog eens bij dat niemand kan controleren welke afbeeldingen door de politie op de lijst worden opgenomen. De politie besluit dus wat mag en wat niet mag, zonder dat de politie daar in een wet de bevoegdheid voor heeft gekregen. En dat is dus in strijd met het EVRM. Het is ook heel iets anders dan in het projectplan (PDF, p. 6) is verwoord: “De politie is zodoende geen partij in het filteren.”
Seksueel misbruik van kinderen is bijzonder schokkend en vraagt daarom juist om oplossingen die doordacht zijn. Dat geldt altijd, of de oplossing nu een inbreuk op grondrechten met zich mee brengt of niet. Drie jaar geleden kon het filter niet door de beugel omdat het niet in de wet was vastgelegd. Dat nu in de voorbereiding van deze nieuwe proef zo gemakkelijk over hetzelfde punt is gestapt, geeft te denken. Half maart, als deze proef is afgelopen, moet in de evaluatie hier zeker aandacht voor zijn.
Het projectplan is door het politiekorps Midden en West Brabant openbaar gemaakt na een verzoek op grond van de Wet openbaarheid van bestuur van Bits of Freedom.
humphreydeklerk
Als ik het goed begrijp, gaat het niet om het filter als zodanig maar of justitie (waar politie onder valt) als instantie capabel genoeg is om een verantwoorde keuze te maken. En dat de criteria daarvoor vastgelegd moeten worden, wat mij wel zo verstandig lijkt. Geen eenvoudige opdracht lijkt me.
bezorgdeburger
Is onze overheid nu echt zo achterhaald? Na de artikelen deze week over Anonymous, en hun nieuwe campagne tegen kinder porno websites in het “deep web” snap ik niet dat de overheid zich daar niet op richt. Met een simpele Tor Browser Bundle installatie kan je op het “deep web” komen, en alles vinden van huurmoordenaars tot kinder porno. *Gruwel* Het lijkt mij dat criminelen niet meer via het gewone internet communiceren, maar dus openlijk via het “deep web”. Daar is actie nodig, niet op TwitPic…
Rejo Zenger
@humphreydeklerk
De bestrijding van seksueel misbruik van kinderen is zo ontzettend belangrijk dat de middelen die er voor worden ingezet niet mogen rammelen. Op belangrijke punten lijkt er bij de opzet van dit filter niet goed te zijn nagedacht. De opstellers van het projectplan schrijven zelf: “De overheid is echter niet bevoegd om het gebruik van internet te beperken.”
Een eerder filter werd, met specifiek dat als reden, als onwettig beoordeeld door onderzoekers van het ministerie van Justitie. Die onderzoekers schreven: “Hierbij zij echter aangetekend dat artikel 2 van de Politiewet niet kan worden ingeroepen wanneer het optreden van de politie inbreuk zou maken op door de grondwet of door verdragen gewaarborgde rechten en vrijheden van de burger.” Er moest voor zo’n vorm van filtering een wet zijn en die ontbrak.
Ook in het huidige filter bepaalt de politie wat iemand al dan niet mag uploaden (en dus indirect ook wat iemand mag zien). Daar hoeft niets mis mee te zijn, maar daar moet dan wel een specifieke wet voor zijn. Die eis stelt het EVRM om er voor te zorgen dat we goed nadenken over het nut, de noodzaak en de opzet van zo’n filter. Zo’n filter om seksueel misbruik van kinderen te bestrijden, de vrijheid van meningsuiting én het Europees Verdrag van de Rechten van de Mens zijn te belangrijk om niet doordacht te zijn.
Willem
Een private partij weigert een publicatie van een afnemer op basis van vermoeden van evidente strafbaarheid (hashcontrole) en de politie levert een lijst van hashes van evident strafbare uitingen (zonder controle, maar ook als service). Lijkt me maar moeilijk ingaan tegen de vrijheid van meningsuiting.
Ben je ook tegen een spamfilter op een blog? Spam valt immers ook onder de vrijheid van meningsuiting. De eigenaar van het blog opent zelf zijn platform door reacties toe te laten, dus hij mag spam ex ante niet blokkeren?
Kijk, als de Politie platforms zou verplichten de lijst te gebruiken is het een andere zaak. Dan krijgt de lijst een veel groter belang.
Wellicht mag dit volgens de Politiewet niet, maar de Vrijheid van Meningsuiting erbij halen, komt mij geforceerd over.
Jeroen
Willem, je vergelijking met een blog gaat niet op. Jij als blogeigenaar mag bepalen wat er op jouw blog gebeurt en jij mag daarom een spamfilter gebruiken. De politie is echter geen eigenaar van het internet en mag daar niet zomaar een filter op zetten.
willem
Ik heb mijn argumenten deels ontleend aan Engelfriet. Hij schrijft dat je zelfs op je eigen blog te ver kan gaan met wissen van reacties. Je opent nu eenmaal een forum voor mensen. Een spamfilter is een ex ante blokkade. Het is niet de politie die wist maar een private partij als twitpic. Juist daarom is het voorbeeld, afgezien van de context van tekst versus afbeelding, erg vergelijkbaar. Twitpic is een publiek aangeboden private dienst die een spamfilter installeert. Niets aan de hand.
MathFox
Juridisch gezien kan een blog zelf bepalen wat ze toelaat en weigert, zij het dat “evident onrechtmatige” uitingen verwijderd moeten worden. Het beleid van de blog in deze zal consistent moeten zijn. Hierbij houdt het gebruik van een automatisch filter een risico in; hoe behandelt een blog “valse positieven” (onrechtmatige uitingen die door het filter heen glippen) en “valse negatieven”, rechtmatige uitingen die ten onrechte door het filter geblokkeerd worden. (Als er in de VS een filter op “staatsgeheimen” op het Internet zat zou het politieke debat daar behoorlijk kaal zijn. – Lees Greenwald maar eens.)
Het punt tussen de haakjes geeft het risico van ieder overheidsfilter aan: onterechte blokkades om aan een onwelgevallige discussie te ontkomen. Daarom moet er m.i. een bezwaarprocedure zijn waarmee een poster aan de redactie van een blog kan verzoeken om ondanks een “blokkade” toch een uiting te plaatsen. Gelukkig is Nederland een van de weinige landen in de wereld waar een redactie zoiets kan doen zonder zelf direct in de cel te belanden… Het rijtje met landen waar zoiets levensgevaarlijk is is te groot om hier op te noemen.
Mark Schouten
Wat Willem zegt. Wat mij betreft is er geen enkel probleem als de politie een dergelijke dienst aanbiedt. De controle op deze lijst ik kinderlijk eenvoudig, je zet alle plaatjes die matchen apart, en als het niet klopt negeer je de uitkomst.
Het wordt een ander verhaal als de overheid dit verplicht gaat stellen. Dan wordt er inderdaad ingegrepen op de vrijheid van meningsuiting.
Als ik een Twitpic-achtige dienst zou aanbieden zou ik graag gebruik maken van een dienst. Als het een gebruiker niet aanstaat, dan tuigen ze hun eigen foto-siteje maar op.
Axel
Het komt niet al te vaak voor, maar voor een keertje is onze Nederlandse Grondwet – in aanvulling op het EVRM – ook relevant. Artikel 7 van onze Grondwet verwoordt het verbod op preventieve censuur volgens de meeste commentatoren steviger dan art. 10 EVRM:
Art. 7 lid 1 jo. lid 3:
“Voor het openbaren van gedachten of gevoelens door andere dan in de voorgaande leden genoemde middelen heeft niemand voorafgaand verlof nodig wegens de inhoud daarvan, behoudens ieders verantwoordelijkheid volgens de wet.”
In Nederland mogen rechters wetten niet toetsen aan de Grondwet (ex art. 120 Gw), maar dergelijke proeven wel. Omdat er geen wet is waarin deze proef wordt geregeld (en omdat er geen waarborgen lijken te zijn getroffen tegen machtsmisbruik) is het verdedigbaar dat internet tussenpersonen (Flickr, Twitpic, etc.) de overheid met redelijke kans van slagen kunnen aanspreken wegens schending van art. 7 Gw.
Mark Schouten
@Axel ALS het verplicht wordt gesteld is dat een probleem. Als ik dat als aanbieder echter doe, waarbij ik zelf de voorwaarden van de dienst bepaal, is dat mijn keuze. Gebruikers die het er niet mee eens zijn kunnen een eigen dienst opzetten, of een andere dienst gebruiken.
Axel
@Mark Schouten
Uiteraard. Maar als je als provider vrijwillig meewerkt, zou je als provider ook geen procedure aanspannen, me dunkt. Ik doelde meer op ‘verplichte’ proeven of situaties waarin zo een filter wordt geregeld in lagere wetgeving, zoals een Algemene Maatregel van Bestuur.
Axel
@Axel 🙂
Althans, in het geval de term wet in de zinsnede ‘behoudens ieders verantwoordelijkheid volgens wet’ slechts slaat op wetten in formele zin.
Frits Jansen
Kinderporno is de opvolger van het terrrorisme: de bestrijding ervan is een excuus waarmee *alles* gerechtvaardigd lijkt te kunnen worden.
Als je het echt fundamenteel bekijkt dan is het al een probleem dat pedoseksuelen gediscrimineerd worden. Natuurlijk mogen zij zich niet aan kinderen vergrijpen, en mogen ook de producenten van kinderporno dat niet. Maar waarom mogen deze stakkers geen “virtuele” kinderporno gebruiken? Het standaard-bezwaar is dat die niet van echt te onderscheiden is. Maar dat betekent tegelijk dat die heel bruikbaar is. Wie zich met plaatjes kan verlustigen zal minder drang voelen zich aan kinderen te vergrijpen. Ik zou de stelling aandurven dat de dubieuze houding va nde overheid tegenover virtuele kinderporno tot *meer* verkrachtingen van kinderen leidt!
Enfin, populistische politiek leidt wel vaker tot averechtse resultaten. Nadenken verboden!
E.M. Hage
Ik ben het daar volledig mee eens. Als je mensen de middelen ontneemt om “stoom af te blazen” door middel van plaatjes, of animaties, waardoor er ‘in het echt’ geen delicten worden gepleegd zal dat een averechts effect opleveren.