Als de politie écht wil leren, dan staat zij open voor kritiek
De politie kreeg een golf van kritiek over zich heen toen zij vrijdag een experiment aankondigde om op basis van grote bergen gegevens over burgers te voorspellen wie een zakkenroller is. Voormalig politiemedewerker Rutger Rienks stelt in een opinie in het NRC ten onrechte dat critici het de politie onmogelijk maken om te leren.
Foto: Thomas Hawk
Predictive policing
In essentie kondigde de politieRienks' opinie over het vangen van boeven met data aan bij te gaan houden wat alle bezoekers en bewoners van Roermond doen, om zo te voorspellen wie een zakkenroller is. Ze wil dat doen op basis van gegevens die ze registreert met antennes en camera’s langs de openbare weg, in combinatie met eigen databestanden. De politie ziet de mogelijkheid om “gebeurtenissen in de nabije toekomst te voorspellen” om “proactief te acteren”. Mensen aanhouden voordat ze – misschien – iets strafbaars doen.
Experimenteren zonder visie
Bits of Freedom is één van de organisaties die kritiek uitteExperimenteren zonder visie is onverantwoord en gokken met onze toekomst. Niet omdat we vinden dat de politie niet mag experimenteren met nieuwe technologie of niet mag leren van fouten. Integendeel zelfs! Het zou ontzettend stom zijn om dat niet te doen. Maar als de politie experimenteert met technologie die onze democratie en rechtsstaat kan ondermijnen, dan alleen als daar een visie over de grenzen van die technologie aan ten grondslag ligt. En daar ontbreekt het aan.
Hoe ver vooruit mag de politie gebeurtenissen proberen te voorspellen en op basis daarvan mensen langs de kant van de weg zetten?
Afwijken van de norm
Het experiment in Roermond wijkt op heel veel manieren af van het traditionele politiewerk. Om te proberen te voorspellen wie er mogelijk een zakkenroller is, moet de politie het doen en laten van iedereen in de gaten houden. De politie kijkt daarbij naar burgers wiens gedrag afwijkt van de norm of van de massa. Dat is het automatiseren van vooroordelen over wat normaal gedrag is. De politie ziet vanaf nu dus elke burger als een risico, want elke burger kan gedrag vertonen dat afwijkt en is daarmee een potentiële verdachte.
Wat kan nog wel en wat niet meer?
Het zou kunnen dat de politie goed heeft nagedacht over dit enkele project, maar een doordachte en overkoepelende visie ontbreekt. Wat kan nog wel en wat niet meer? Hoe ver vooruit mag de politie gebeurtenissen proberen te voorspellen en op basis daarvan mensen langs de kant van de weg zetten? Wat betekent het voor onze maatschappij als de politie overal in Nederland een systeem als dat in Roermond optuigt? Als we willen voorkomen dat de politie straks ieders beweging realtime kan volgen, wanneer moeten we dan een grens trekken? En omdat de voorspelling nooit nauwkeurig genoeg kan zijn, zal de politie steeds meer sensoren willen ophangen en steeds meer bergen gegevens aan elkaar willen knopen. Waar eindigt dat? Hoe denkt de politie daarover?
De politie ziet vanaf nu dus elke burger als een risico, want elke burger kan gedrag vertonen dat afwijkt.
Onze toekomst staat op het spel
Blind vertrouwen is dom en risicovol. Infrastructuur die de politie optuigt wordt nooit meer afgebroken. Op zijn best raakt het buiten gebruik, maar dat alleen na de introductie van een systeem met nog meer mogelijkheden.
Als de politie écht wil leren, dan moet zij open staan voor kritiek. Bits of Freedom kan geen vertrouwen hebben in een politie die experimenteert met nieuwe technologie, maar moeilijke vragen daarover onbeantwoord laat. Daarvoor staat teveel op het spel: onze democratische rechtsstaat en daarmee onze toekomst.
Peter
mogelijke reactie politie:
Kritiek! Kritiek? Wat nou kritiek,we doen dit Voor de burgers die niets te verbergen hebben en dat zijn burgers die zich geen zorgen hoeven te maken….
Is er een discussie geweest omtrent SyRi? Helaas niet.
Een fout systeem dat mensen benadeeld mbv discriminerende biases in de algoritmes.
…en mocht het publiek zo door blijven gaan met kritiek leveren op het goede werk dat we zo efficiënt mogelijk proberen uit te voeren, maken we dit soort ‘positieve’ veranderingen niet meer publiekelijk en doen we het Stiekum, zoals SyRi.
Hans
Politie is in essentie de ordedienst van de rijken, de land- en vermogenseigenaren, zoals ook de staat en het bedrijfsleven een conglomeraat vormen rond deze elites.
Toch hebben we het meest te vrezen van de massa die er echt alles aan doet om het systeem van informatie te voorzien. De massa zal keer op keer gehoor geven aan de politionele oproep om de intelligentia uit te roeien.
Waarom noemt schrijver de dingen niet bij de naam:
het fascisme, als logische functie van bedreigd kapitalisme, wordt met technologische precisie opnieuw in stelling gebracht.
Bits of Freedom, u doet goed werk, maar u laat zich net als de massa om de tuin leiden. Informatievergaring van hen die de macht consolideren hoort tot de package deal die kapitalisme is.
Wie niet over kapitalisme wil spreken kan beter zwijgen over fascisme.