How one word took an entire organization off the air

Kan een mondkapje je beschermen tegen gezichtssurveillance?

Biometrische surveillance in Nederland: Het mag niet, maar gebeurt toch
DOSSIER: Biometrische surveillance
DOSSIER: Gezichtsherkenning

We leven tijdens een wereldwijde pandemie, en in tijden van de introductie van biometrische surveillance in onze openbare ruimte. Het moment om de proef op de som te nemen: kan een mondkapje je ook beschermen tegen geautomatiseerde gezichtsherkenning?

Twee vliegen in één klap?

Onze relatie met de publieke ruimte wordt opnieuw gedefinieerd, niet alleen door de pandemie, maar ook door biometrische surveillancetechnologie. Biometrische massasurveillance maakt het bedrijven en overheden mogelijk om ons te identificeren en te volgen op basis van unieke, persoonlijke gegevens. Waar we ook gaan en op elk moment van de dag.

De toenemende inzet van gezichtsherkenning en andere biometrische surveillancetechnologie – in onze straten, in het openbaar vervoer, tijdens demonstraties, bij sportwedstrijden en concerten en in digitale openbare ruimte zoals sociale media – betekent dat onze vrijheid om ons anoniem in deze ruimte te begeven onder druk staat. Daarnaast riskeert het onze collectieve toekomst en draagt het bij aan een samenleving van angst en wantrouwen.

Dit roept de vraag op: kunnen mondkapjes ons ook beschermen tegen biometrische surveillance? Wij namen de proef op de som en probeerden er een te ontwikkelen.

Een wapenwedloop om je gezicht

Op het eerste gezicht lijkt dat makkelijk. Immers, een mondkapje bedekt een behoorlijk deel van je gezicht. Maar huidige gezichtsherkenningssystemen zijn al behoorlijk geavanceerd en hebben relatief weinig datapunten nodig om mensen te kunnen identificeren. En terwijl er door de digitale rechtenbeweging aan een project voor beschermende mondkapjes werd gewerkt, werd er even hard aan een updateLees hier meer over de update van gezichtsherkenningssystemen van de technologie gewerkt om ook mensen die mondkapjes dragen te kunnen identificeren.

Eerder hebben mensen al kleding en make-upDit schreven we daar eerder over ontworpen om zich te beschermen tegen surveillancesystemen. Zou het lukken om met zulke patronen, geprint op mondkapjes, geautomatiseerde gezichtsherkenningssystemen om de tuin te leiden?

Dit is waar het ingewikkeld werd... De technologie is ongrijpbaar

In het project waren er een aantal obstakels. Dit is waar het ingewikkeld werd:

  • Elk gezichtsherkenningssysteem werkt weer net anders. Dit betekent dat een ontwerp dat bescherming biedt tegen identificatie van het ene systeem, bij het andere systeem niet hoeft te werken.
  • De meeste gezichtsherkenningsalgoritmes zijn ondoorzichtige ‘black boxes’. Het gebrek aan transparantie bij gezichtsherkenningssystemen maakt het moeilijk om te begrijpen wat er precies gebruikt wordt in het systeem en hoe dat precies werkt.

“Er is niet zoiets als een masker dat gezichtsherkenning blokkeert, maar meer een masker dat een ResNet-50 CNN model dat getrained is met een VGG Face2 dataset blokkeert

Adam Harvey, expert in het om de tuin leiden van gezichtsherkenningstechnologie
  • Mondkapjes hebben een klein oppervlakte. Een patroon dat werkt op een T-shirt is een stuk minder effectief wanneer het op een klein oppervlakte zoals een mondkapje wordt geprint.
  • De systemen bleken te geavanceerd om met de mondkapjes te voorkomen dat er een gezicht werd gedetecteerd. Daarom werd het uiteindelijke doel om de herkenning van een specifieke gezicht te verstoren.
  • Door het ‘black box’-probleem kan de effectiviteit alleen worden gemeten door in de praktijk te testen over een breed scala aan verschillende soorten technieken die constant worden geüpdatet en steeds geavanceerder worden. Hierdoor is het heel erg moeilijk om aan te geven hoe effectief het is, en met zulke onzekerheid is het geen goede bescherming.

Wat hebben we van dit project geleerd?

In dit project hebben we een aantal lessen geleerd die we graag met jullie delen:

  • We weten niet of het mogelijk is om een mondkapje te ontwerpen dat bescherming biedt tegen gezichtsherkenningstechnologie. Wat we wel weten is dat het onmogelijk is om zeker te weten hoe effectief de bescherming precies is en tegen hoeveel van de verschillende systemen het werkt.
  • De kleine daden van verzet die wij kunnen ondernemen tegen deze krachtige technologie zijn geen vervanging van een structurele, langetermijnoplossing.
  • Burgers zouden niet de last moeten dragen om zichzelf tegen deze technologie te beschermen en hun anonimiteit te waarborgen. In plaats daarvan moeten overheden ervoor zorgen dat onrechtmatige biometrische surveillance uit onze publieke ruimte wordt verbannen.

Waarom hebben we de maskers alsnog geproduceerd?

Deze maskers zijn een symbolisch verzet tegen de toenemende inzet van gezichtsherkenning. Met het dragen van het mondkapje spreek je je uit tegen deze vorm van surveillance. #ReclaimYourFaceDat kun je ook hier doen door ons burgerinitiatief te ondertekenen!!

Sinds oktober 2020 organiseert een coalitie van 61 organisaties uit het maatschappelijk middenveld zich voor een Europees verbod op biometrische surveillance in de openbare ruimte. Want we willen niet dat de bescherming tegen deze invasieve technologie een individuele verantwoordelijkheid is. We willen sterke wetgeving die ons allemaal en onze samenleving beschermt tegen biometrische surveillance door de hele EU en liefst daarbuiten!

Deze blog is een bewerking van de blog op Reclaim Your Face.
 

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.