Gebrek aan transparantie algoritmegebruik gemeentes
In deze aflevering gaan we in gesprek met onze tech-onderzoeker Chandni Bagchi over haar onderzoek naar algoritmegebruik door gemeentes. Evelyn tipt een plug-in die je laat zoeken op het internet voor AI.
In deze aflevering gaan we in gesprek met onze tech-onderzoeker Chandni Bagchi over haar onderzoek naar algoritmegebruik door gemeentes. Evelyn tipt een plug-in die je laat zoeken op het internet voor AI.
Slop Evader
Evelyn kwam een plug-in tegen: kunstenaar Tega Brain ontwikkelde Slop EvaderBekijk het op de site van de kunstenaar.. Dit is een zoektool die alleen content teruggeeft die is gemaakt voor de eerste publieke release van ChatGPT. Sinds de publieke release van dit soort taalmodellen raakt het internet steeds meer vervuild met door AI gegenereerde tekst, beelden en video.
Onderzoek via de Wet open overheid
Chandni analyseerde openbare documenten en diende Woo-verzoeken in bij de tien grootste gemeentenLees het onderzoek hier.. Ze vroeg om inzicht in algoritmegebruik en de bijbehorende impact assessments: risicoanalyses over welke data worden verwerkt, op basis van welke grondslag en met welke mogelijke gevolgen.
Alleen Nijmegen reageerde binnen de wettelijke termijn. Andere gemeenten deden er maanden langer over. Volgens Chandni laat dit zien dat gemeentes hun eigen algoritmegebruik onvoldoende op orde hebben. “Ik had het gevoel dat, als ik niet constant achter mijn verzoeken aan zou gaan, ze hoopten dat ik het zou vergeten,” zegt Chandni.
Zorgtaak als uitvlucht
Gemeenten presenteren algoritmes vaak als middel om inwoners beter te helpen, maar in de praktijk blijkt handhaving meestal leidend. Zo beoordeelt de Amsterdamse ‘slimme check’ bijstandsaanvragen op ‘onderzoekswaardigheid’. Het levert weinig winst op en veroorzaakt juist meer controles, administratieve druk en stress voor inwoners.
Wettelijke grondslag ontbreekt vaak
Bij veel onderzochte algoritmes was onduidelijk op basis van welke wettelijke grondslag de data überhaupt verwerkt mochten worden. Volgens de AVG moet elke verwerking noodzakelijk en proportioneel zijn en moet een gemeente kunnen uitleggen waarom een algoritme nodig is. “Een bestaande taak, zoals het controleren van aanvragen, betekent niet automatisch dat een algoritme daarvoor is toegestaan,” zegt Chandni.
Hoe het beter kan
Chandni pleit voor een verplicht landelijk algoritmeregister en het actief publiceren van impact assessments. En vóór inzet van elk algoritme zouden gemeenten zich drie vragen moeten stellen:
- Welk probleem proberen we op te lossen?
- Voor wie lossen we dit op: voor de burger of voor het systeem?
- Is dit echt de beste, proportionele en wettelijk legitieme methode?
Volg ons op de voet...
Let op! Nu volgen wat linkjes naar Big Tech!
Volg jij Bits of Freedom al? Bijvoorbeeld op Mastodon, Bluesky, Instagram of LinkedIn?
De podcast vind je in jouw favoriete podcastapp. Bijvoorbeeld op Spotify of Apple Podcasts.
Wil je niks te maken hebben met Big Tech? Abonneer je dan gewoon op onze podcastnieuwsbrief: