Mitsen, maren, bezwaren en gevaren
Wij krijgen het daar eerlijk gezegd nogal benauwd van. Welke mitsen, maren, bezwaren en gevaren zijn er zoal, als het gaat om predictive policing? We vroegen het aan onze expert uit de vakjury Naomi Appelman, mede-oprichter van het Racism and Technology Center en specialist in informatierecht.
“Een van de problemen is dat we er geen overzicht van hebben. Er is niet een soort centrale pagina van de overheid of politie waarop staat welke predictive policing projecten ze hebben. We weten het dan wel van een aantal, maar we weten dus niet of er meer zijn. Er is geen transparantie of helderheid over wat de politie nou precies doet.”
Een ander probleem is dat dit soort systemen op basis van historische data, dus gegevens uit het verleden, voorspellingen doen over de toekomst. Maar hier kleven grote problemen aan. Want op wat voor data baseer je die voorspellingen? Worden de juiste gegevens ingevoerd? En wat voor beeld geven ze van de werkelijkheid? Daarnaast spelen er dingen mee waarvan we niet moeten willen dat ze een rol spelen. Etniciteit en sociaal economische status worden bijvoorbeeld meegewogen als ‘risicofactoren’.
“Dat is een uiterst problematische manier om naar mensen te kijken - niet alleen moreel gezien, maar ook juridisch.”