We hebben AI-wetgeving nodig waarin onze rechten echt beschermd worden

Ook in de Europese Unie zien we biometrische surveillance, en deze surveillance ons

Anonymity is indispensable
DOSSIER: Gezichtsherkenning
DOSSIER: Biometrische surveillance

Veel mensen denken dat massasurveillance op basis van bijvoorbeeld gezichtsherkenning alleen in China plaats vindt. Want in de Europese Unie houden we vast aan democratische waarden, toch? Maar helaas, ook hier gebeurt dit al. Wij geven je een ontluisterend inkijkje in de snelle opkomst van biometrische massasurveillance in landen binnen de EU.

Stop biometrische surveillance in de openbare ruimte en onderteken ons burgerinitiatief!

Laten we beginnen met een positieve noot: We kunnen dit nog stoppen!

De wet biedt onvoldoende bescherming in de praktijk

De afgelopen jaren hebben overheden en private bedrijven indringende surveillancetechnologie geïntroduceerd waarbij gegevens over onze lichamen en ons gedrag worden verzameld en verwerkt. Zo worden allerlei unieke, persoonlijke gegevens over ons geregistreerd terwijl wij bezig zijn met onze dagelijkse levens. Dat noemen we biometrische massasurveillance.

Hoewel EU-ambtenaren beweren dat huidige wetgeving dergelijke praktijken voorkomt, is het duidelijk dat de wet in de praktijk onvoldoende bescherming biedt. Hierdoor is er wel degelijk sprake van biometrische massasurveillancetechnologie die op ons wordt toegepast en zo inbreuk maakt op onze rechten en vrijheden. De onderstaande voorbeelden spreken voor zich.

Inzet tijdens demonstraties en in het openbaar vervoer

In Duitsland experimenteert de politie met biometrische massasurveillance op reizigers op Berlin’s SüdkreuzLees hier meer over surveillancetechnologie op Berlin Skreuz station en werd het toegepast op demonstranten tijdens de G20 top in HamburgLees hier het persbericht van de Duitse toezichthouder over de databank met gezichten van demonstranten van de Duitse politie. Daarnaast heeft het onderhand beruchte bedrijf Clearview AILees hier wat Kashmir Hill eerder schreef over Clearview AI massaal de gezichten van mensen die in Duitsland wonen illegaal van het internet gepluktLees hier de blog van EDRi over hoe je je gezicht kunt terugclaimen van Clearview AI en gebruikt.

In Tsjechië heeft de politie CogniwareDit bedrijf won dit jaar de zogenaamde "Snooper Company" award van EDRi-lid IuRe gezichtsherkenningssoftware ingekocht. Hiermee zouden zij emoties kunnen voorspellen, gender kunnen herkennen en iedere persoon linken met hun financiële informatie, telefoongegevens, welke auto men rijdt, waar men werkt, collega’s, met wie men omgaat, plekken die de persoon bezoekt en spullen die de persoon aanschaft. Daarnaast vindt er excessieve biometrische monitoring plaats van iedereen in het vliegveld van PraagIuRe schreef daar deze blog over, zonder van te voren een inschatting te maken van de gevolgen hiervan, zoals de wet vereist.

Stiekeme surveillance en leugendetectortechnologie

In Italië heeft de politie stiekem biometrische massasurveillance geïnstalleerd tegen rondhangen en het onbevoegd betreden van gebieden. Het vliegveld in Rome gebruikt gezichtsherkenning voor het managen van rijen mensen. En helaas is er meer: De Italiaanse politie is van plan om haar gezichtsherkenningssysteem uit te breiden voor het monitoren van de aankomst van migranten aan de Italiaanse kust. Eerder al probeerde zij dit systeem uit te breiden voor het monitoren van demonstranten. Non c'è modo, assolutamente no!

Ook in Griekenland wordt biometrische surveillancetechnologie aan de grens ingezet. Het dystopische iBorderCTRLDit is wat techcrunch schreef over iBorderCTRL experiment is een zogenaamde leugendetector die belooft leugens van waarheid te kunnen onderscheiden op basis van microexpressies in je gezicht. Daarnaast werd de Griekse politie op heterdaad betrapt toen in 2020 een 4 miljoen euro contract voor “smart” gezichtsherkenning werd onthuldLees hier meer over het werk dat de Griekse club Homo Digitalis daarop deed. De Griekse toezichthouder is nu een onderzoek gestart naar de Griekse politie voor het onrechtmatigLees hier meer over in deze Reclaim Your face update in massale databanken opslaan en verwerken van biometrische gegevens van Griekse burgers.

Scholen, straten en stadions

In België wordt in het vliegveld van Brussel Zaventeem stiekem iedereen die langsloopt in de gaten gehouden. De technologie wordt hier niet ingezet voor paspoortcontrole, maar verzamelt en verwerkt de gezichten van bezoekers.

De overheid in Denemarken staat het biometrisch surveilleren van voetbalsupporters toe. Voetbalclub Brøndby heeft aangekondigd dat de gezichten van alle bezoekers worden gescand om personen die eerder zijn weggestuurd te identificeren.

In Slovenië gebruikt de politieLees hier wat Algorithm Watch hierover schrijft biometrische massasurveillance en werd deze technologie ook ingezet op demonstrantenZoals blijkt uit dit rapport van Greenpeace en Liberties.

De Zweedse politie heeft een boeteLees daar meer over op de website van de European Data Protection Board gekregen voor onrechtmaitg gebruik van Clearview AI. Ook werd er gezichtsherkenning ingezet om de aanwezigheid van leerlingen op scholen bij te houden.

In Polen en Servië zijn er meerdere gevallen van de inzet van biometrische surveillance bekend. Zo werd er op een Poolse school gebruik gemaakt van een systeem met vingerafdrukken voor de school lunchesDit schrijft de Poolse toezichthouder daarover en werd in Belgrado in Servië massaal gezichtsherkenningscamera’s opgehangen in de stratenLees hier wat EDRi daarover schrijft.

En ook in Nederland

In Nederland is biometrische massasurveillance ingezet door bedrijven in voetbalstadions, supermarkten en andere winkels. De Autoriteit Persoonsgegevens moest bedrijven en supermarktbranches eraan herinneren dat dit niet is toegestaan. Bovendien heeft de politie een massale databank met maar liefst 1,4 miljoen gezichtenLees hier wat wij eerder daarover zeiden bij RTL Nieuws. Dat betekent dat maar liefst 1 op de 12 Nederlanders daar in staat. Onlangs kwam naar buiten dat daarvan tienduizenden mensen mogelijk onterechtLees hier meer over dit onderzoek door nu.nl zijn opgenomen.

Maar we kunnen het stoppen!

En dit zijn alleen nog maar een aantal voorbeelden waar wij van weten. Kun je je voorstellen hoeveel er nog wordt ingezet wat niet op onze radar staat? En hoeveel contracten en plannen er zijn die niet openbaar zijn?

Wij roepen op tot een wet die de gaten en onduidelijkheden in huidige wetgeving dicht, zodat die niet langer misbruikt kunnen worden, en deze praktijk een halt toegeroepen wordt. De veelheid aan voorbeelden laat zien dat we een expliciet verbod op biometrische surveillance in de Europese openbare ruimte nodig hebben.

Onderschrijf daarom ons officiële burgerinitiatief om tot dit verbod te komen.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.