In dit artikel delen we graag de lessen die we hebben geleerd tijdens het werken aan de zogenaamde Amsterdam Top400, een invasieve aanpak waarbij voorspellende politiewerkzaamheden leidden tot ongewenste inmenging in het privéleven van jongeren. In het project werkten wij nauw samen met de betrokkenen zelf. Samen onderzochten we of de gemeente Amsterdam voor de rechter kon worden gedaagd. Aangezien andere (digitale rechten)organisaties wellicht ook geïnteresseerd zijn in het aanspannen van rechtszaken samen met mensen die negatief worden beïnvloed door technologie, willen we onze ervaringen graag delen.

De Top400: de context

De gemeente Amsterdam heeft een lijst opgesteld, de zogenaamde Top400, om te voorkomen dat jongeren crimineel worden. De criteria om op de lijst te komen variëren, maar het is belangrijk om te benadrukken dat ze niet veroordeeld hoeven te zijn voor een daadwerkelijk misdrijf. Een kind dat verdacht werd van een strafbaar feit kon in het programma worden opgenomen, evenals kinderen die vaak van school waren veranderd of kinderen die slachtoffer of getuige waren geweest van huiselijk geweld of andere misdrijven. Een tijdlang werd een algoritme gebruikt om jongeren te selecteren. Kinderen die in het programma waren opgenomen, werden intensief gevolgd door de gemeente, de politie, de school, zogenaamde straatcoaches en tientallen andere aangesloten partners. Het programma omvat een gemengde aanpak van zorg en repressie. Het leidde tot stigmatisering van jongeren en een toegenomen wantrouwen in overheidsinstellingen. Bovendien is het nooit goed geëvalueerd vanuit het perspectief van de betrokken gemeenschap.

Samenbrengen van verschillende soorten expertise

Naast de getroffen gemeenschap zelf waren verschillende organisaties en mensen met uiteenlopende expertise betrokken bij het project. De organisatie Fair Trials gaf inzicht in hoe dit soort lijsten vaker in het Verenigd Koninkrijk werden gebruikt en welke ervaringen zij al hadden met het bestrijden ervan. Controle Alt Delete was ook betrokken en bracht het perspectief van Nederlandse jongeren die door de politie worden lastiggevallen in. De advocaten van het Public Interest Litigation Project (PILP) en dr. Fieke Jansen startten een onderzoek en vroegen beleidsdocumenten op met behulp van de Wet open overheid (Woo). Door toegang te krijgen tot beleidsdocumenten kregen we inzicht in hoe het programma zou functioneren. Ook werden hierdoor de impact en de schadelijke effecten van het programma duidelijker.

Het rapport met de resultaten van het Woo-onderzoek werd gepubliceerd samen met de documentaire “Moeders” van journalist en documentairemaker Nirit Peled, om aandacht te trekken en impact te genereren. Zowel het rapport als de documentaire toonden het onrecht en het wangedrag van de gemeente Amsterdam en de gevolgen daarvan voor de kinderen en hun families aan. De burgemeester bleef het project echter verdedigen en leek niet bereid om de onwettige praktijken te stoppen. We hadden eenn advocaat in onze coalitie die gespecialiseerd is in privacyrecht en die een juridische analyse van de procesmogelijkheden heeft gemaakt. Het resultaat: we konden de gemeente aanklagen voor verschillende schendingen van de AVG, naast het Verdrag inzake de rechten van het kind en artikel 8 van het Europees Verdrag voor de rechten van de mens. De diversiteit aan expertise, rollen en perspectieven in deze coalitie was zeer waardevol en vulde elkaar op belangrijke punten aan.

Een coalitie, een klankbordgroep en een handelingsperspectief

Een noodzakelijke voorwaarde om het werk te kunnen doen was de klankbordgroep bestaande uit mensen uit de getroffen gemeenschap. PILP heeft met verschillende mensen uit de Top400 en andere mensen uit de betrokken gemeenschap kunnen praten. Veel van de mensen die in het programma waren opgenomen, vonden dat er iets moest gebeuren, maar wilden er zelf niet meer bij betrokken zijn of mee geassocieerd worden. Aangezien de meesten van hen inmiddels volwassen zijn en niet meer in het programma zitten, behoort het tot hun verleden. En begrijpelijkerwijs wilden ze dat zo houden. Uiteindelijk stemden enkele mensen ermee in om onze klankbordgroep te vormen, waaronder een jeugdwerker, moeders uit de buurt, een moeder van een kind dat jaren geleden in de Top400 was opgenomen en andere actieve mensen die opkomen voor hun gemeenschap. We hebben verschillende bijeenkomsten gehouden met de klankbordgroep, waarin de groep uitleg kreeg over de juridische situatie, welke opties er waren en wat de gevolgen van elke optie zouden zijn. Ze deelden hun inzichten en ervaringen en gaven aan wat de meest nuttige volgende stap zou zijn. De bijeenkomsten werden tussen elke stap gepland. Tijdens de eerste bijeenkomst met mensen uit de getroffen gemeenschap werd duidelijk dat velen van hen nog steeds te maken hadden met veel trauma, pijn en angst. Ze wilden dat er actie werd ondernomen, maar wilden vaak niet zelf actief betrokken zijn als herkenbare partij, omdat ze bang waren dat dit hen in nog meer problemen zou brengen. De beste manier om verder te gaan werd duidelijk: we besloten om ons voor te bereiden op een rechtszaak met Bits of Freedom als partij, vertegenwoordigd door PILP. We deden dit door een brief met onze eisen te sturen.

Noodzakelijke verandering van strategie

Omdat de gemeente haar beleid aanpaste en het gebruik van het algoritme al was stopgezet, bestond de kans dat een rechter zou zeggen dat we niet langer voldoende belang zouden hebben in een rechtszaak. Daardoor werd de rechtszaak, die we eerder als zeer veelbelovend beschouwden, een zaak met weinig kans op succes. Als we toch zouden doorgaan met de rechtszaak, zou dat schadelijke gevolgen kunnen hebben. Als de gemeente Amsterdam zou winnen, zou zij zich natuurlijk gesterkt voelen in haar aanpak, net als andere gemeenten die het voorbeeld van de gemeente Amsterdam volgen. Dat zou uiteraard niet in het belang zijn van de getroffen gemeenschap.

We hebben daarom besloten om een andere aanpak te kiezen. We hebben onze communicatiestrategie aangepast aan de situatie en het bewustzijn over wat er gaande was vergroot. Dit omvatte zowel het autoritaire optreden van de burgemeester als de inhoudelijke veranderingen in werkprocessen en beleidsdocumenten. Sommige van deze veranderingen waren positief, maar omdat er geen bewustwording leek te zijn, waren dit slechts kruimels.

Daarnaast zijn we ook andere onderzoeken gestart en hebben we de bescherming van kinderrechten, met name bij het gebruik van technologie zoals kunstmatige intelligentie, hoog op onze agenda geplaatst. We zien de aanpak van de gemeente Amsterdam, waarbij burgers, met name kinderen, worden geprofileerd en als verdacht worden bestempeld zonder dat ze formeel verdachten zijn, als een trend. We vinden het belangrijk om ons hiertegen te blijven verzetten en de gevolgen voor kinderen, gezinnen, onze samenleving en de rechtsstaat onder de aandacht te brengen. We zijn klaar voor een nieuwe ronde in de strijd voor algoritmische rechtvaardigheid.

Onze belangrijkste geleerde lessen

• Het samenwerken als consortium was een uitstekende manier om het probleem vanuit verschillende invalshoeken te benaderen die elkaar versterken en om de werklast te verdelen.
• Je moet voldoende tijd nemen om een getroffen gemeenschap bij het proces te betrekken, omdat je de tijd moet nemen om hen te informeren, het proces en de mogelijke stappen uit te leggen en hen op de hoogte te houden. Bovendien heb je tijd nodig om vertrouwen op te bouwen. De gemeenschap waarmee we werkten, werd voortdurend teleurgesteld door overheidsinstellingen, dus waarom zouden ze plotseling een andere organisatie vertrouwen die ‘hulp’ aanbood?
• Zorg ervoor dat je na elke stap van het proces met de getroffen gemeenschap overlegt – om hen op de hoogte te houden en te beslissen wat de volgende stap(pen) moeten zijn;
• Houd rekening met de zorgen van de gemeenschap – mensen zijn over het algemeen bang om rechtszaken aan te spannen en met de media te praten, ze vergeten meestal liever wat er is gebeurd. Dit is belangrijk voor de rol die je als organisatie moet vervullen. Hoe kun je zoveel mogelijk van die lasten vernemen?