Dit jaar gaat de expertprijs naar het ministerie van Justitie en Veiligheid, dat het wel héél bont maakt als het gaat om inbreuken op de privacy en vrijheid van burgers. Om recht te doen aan het aantal missers reiken we dit jaar een oeuvreprijs uit. In een serie blogs besteden we aandacht aan de verschillende redenen waarom volgens onze vakjury het ministerie van Justitie en Veiligheid deze bijzondere prijs verdient.

Deel 1: Predictive policing met Naomi Appelman.

Speuren via voorspellingen

Stel dat je kunt voorspellen waar in jouw buurt een woninginbraak gaat plaatsvinden. Of kunt zien waar en wanneer er een vechtpartij gaat uitbreken. Dat is de belofte van predictive policing. Klinkt superhandig, maar om tot die voorspellingen te komen verzamelt de politie allerlei gegevens waarvan zij denkt dat ze iets zeggen over hoe groot de kans is dat er ergens een misdaad gaat plaatsvinden. Denk daarbij aan de verdeling van sekse, de grootte van huishoudens, afkomst en leeftijden in een wijk. Of juist gegevens over de persoon, zoals de wijk waarin je woont, je sociale netwerk, of je wel eens in aanraking bent geweest met de politie als verdachte, maar misschien ook als slachtoffer of getuige. Een heleboel gegevens dus. Kunnen die iets zeggen over de kans dat jij bij een misdrijf betrokken gaat zijn? Hoe worden die gegevens geïnterpreteerd? En, hoe zit het met de effectiviteit van systemen die hiervoor worden ingezet?

Mitsen, maren, bezwaren en gevaren

Wij krijgen het daar eerlijk gezegd nogal benauwd van. Welke mitsen, maren, bezwaren en gevaren zijn er zoal, als het gaat om predictive policing? We vroegen het aan onze expert uit de vakjury Naomi Appelman, mede-oprichter van het Racism and Technology Center en specialist in informatierecht.

“Een van de problemen is dat we er geen overzicht van hebben. Er is niet een soort centrale pagina van de overheid of politie waarop staat welke predictive policing projecten ze hebben. We weten het dan wel van een aantal, maar we weten dus niet of er meer zijn. Er is geen transparantie of helderheid over wat de politie nou precies doet.”

Een ander probleem is dat dit soort systemen op basis van historische data, dus gegevens uit het verleden, voorspellingen doen over de toekomst. Maar hier kleven grote problemen aan. Want op wat voor data baseer je die voorspellingen? Worden de juiste gegevens ingevoerd? En wat voor beeld geven ze van de werkelijkheid? Daarnaast spelen er dingen mee waarvan we niet moeten willen dat ze een rol spelen. Etniciteit en sociaal economische status worden bijvoorbeeld meegewogen als ‘risicofactoren’.

“Dat is een uiterst problematische manier om naar mensen te kijken - niet alleen moreel gezien, maar ook juridisch.”

In de verzamelde gegevens zit dus sociale ongelijkheid die automatisch gereproduceerd wordt als met die data de toekomst voorspeld moet worden. Anderzijds is het niet mogelijk om die vooroordelen uit de gegevens te halen, omdat ze dan niet meer kloppen met de wereld waar we in leven. Die sociale ongelijkheid bestaat daar immers. Dus: Kan het eigenlijk wel goed worden uitgevoerd?

Maatschappelijk debat nodig

Een ander probleem is dat we door dit soort systemen vaak niet meer op zoek gaan naar de onderliggende maatschappelijke problemen die ertoe leiden dat binnen sommige gemeenschappen of buurten misdaad meer lijkt voor te komen.

“Het enge van dit soort systemen is dan ook dat ze fundamentele vragen, en tevens de beleidskeuzes die daar achter zitten, onzichtbaar maken. Dat is iets waarover we een maatschappelijk debat zouden moeten voeren en waar we politici en politie verantwoordelijk voor moeten kunnen houden.”

Over de Big Brother Awards

Tijdens de Big Brother AwardsMeer weten? Neem een kijkje op de Big Brother Awards 2021 website! onderzoeken we hoe het is gesteld met ons recht op privacy in Nederland: We voelen de grootste privacyschenders aan de tand en vragen aandacht voor personen, bedrijven en overheden die hierop grove inbreuken maken. De grootste privacyschenders maken vervolgens kans op de Publieksprijs of de Expertprijs. Daarnaast is er een positieve privacyprijs, de Felipe Rodriguez Award, voor een persoon die juist een buitengewone bijdrage heeft geleverd aan het beschermen van onze digitale burgerrechten.

Volgende keer: Meer over de rits aan privacymissers die het Ministerie van Justitie en Veiligheid dit jaar de expertprijs hebben bezorgd, van het inrichten van de NCTV als stiekeme inlichtingendienst tot de obsessie van de politie met onze gezichten. Genoeg om de komende weken over in gesprek te gaan!