De AI-Verordening zoals die nu is verbiedt biometrische surveillance in de openbare ruimte. Maar wel op een heel erg beperkte manier, met veel uitzonderingen. Wij werken er hard aan om dat verbod beter te maken. Hier leggen we graag uit hoe wij die verbeteringen voor ons zien.

Een verbod op álle biometrische identificatie technologie op afstand in de openbare ruimte.

Nu is Dit stappenplan is in lijn met onze positie die we hier eerder publiceerdenhet verbod beperkt tot systemen die realtime werken. Bijvoorbeeld gezichtsherkenningssystemen waarbij de gezichtsherkenning is ingebouwd in de camera, en dus meteen plaatsvindt. Maar biometrische identificatie, zoals gezichtsherkenning, kan ook met terugwerkende kracht worden gedaan. Bijvoorbeeld door gezichtsherkenning toe te passen op beelden die zijn opgenomen door gewone CCTV camera’s, of met een telefoon. Er wordt vaak de vergissing gemaakt dat deze systemen een minder vergaande inbreuk maken op onze rechten en vrijheden. Maar dat is niet waar.Lees hier meer over de grotere risico's van post systemen Het maakt immers van elke gewone camera een potentiële gezichtsherkenningscamera. Er zijn dus ineens veel meer beelden waar het op toegepast kan worden, die bovendien makkelijker kunnen worden doorzocht en met elkaar in verband gebracht. Daarom vinden wij dat ook systemen die ons achteraf identificeren onder het verbod moeten vallen.

Hoe breed dit verbod geldt is deels afhankelijk van wat er wordt verstaan onder ‘openbare ruimte’. Wij vinden het belangrijk dat daar in dit verband ook de online ruimte onder valt.Dat vinden ook de Europese toezichthouders op gegevensbescherming Zodat onze gezichten ook op het internet veilig zijn.

Tot slot is het verbod nu beperkt tot het gebruik van deze systemen voor handhaving, dus bijvoorbeeld door de politie. Maar ook bedrijven maken gebruik van biometrische surveillance, en kunnen daarmee schade toebrengen aan onze rechten en vrijheden en onze open en vrije samenleving. Daarom vinden wij dat het verbod álle biometrische identificatie technologie die gebruikt kan worden voor massasurveillance uit de openbare ruimte moet bannen.

Verbied ook biometrische categorisatie systemen

Met alleen biometrische identificatie zijn we er nog niet. Want ook met biometrische categorisatie staan onze rechten en vrijheden onder druk. Met deze systemen worden mensen op basis van bepaalde kenmerken gesorteerd, bijvoorbeeld op basis van gender. Er wordt beweerd dat deze systemen bepaalde dingen kunnen afleiden uit persoonlijke kenmerken. Zoals het afleiden van politieke oriëntatie, seksuele geaardheid of (aanleg voor) criminaliteit op basis van uiterlijke kenmerken van mensen. Daar is geen steekhoudende wetenschappelijke basis voor, maar deze systemen zijn er wel. Om onze rechten, vrijheden en samenleving te beschermen is het belangrijk dat we ze verbiedenOok dit is in lijn met wat de Europese toezichthouders op gegevensbescherming willen.

Verbied ook emotieherkenning

Ook de wetenschappelijke basis achter emotieherkenning is omstreden. Hiermee zou op basis van bijvoorbeeld hele kleine spierbewegingen in je gezicht of je stem aannames gemaakt kunnen worden over je emoties of bepaalde karaktertrekken. Zo wordt de technologie wel eens toegepast bij online sollicitatiegesprekken, maar ook bijvoorbeeld om te kijken of je extra gecontroleerd dient te worden bij de douaneBijvoorbeeld met iBorderCTRL. Deze technologie gaat uit van aannames over dat alle mensen hetzelfde werken, en dat is natuurlijk niet zo. Omdat het vanuit die gedachte wel groepen mensen uitsluit, moeten ook dit soort systemen verboden worden.

Biometrische surveillance systemen die niet worden verboden moeten strikt gereguleerd.

Er zijn nu al enorm veel toepassingen van kunstmatige intelligentie, en dat zullen er in rap tempo nog meer worden. En niet alles hoeft verboden te worden. Dat zou zonde zijn, omdat de technologie ook veel potentie biedt, bijvoorbeeld voor medische toepassingen. Het is wel belangrijk dat we bij deze systemen goed nadenken over de risico’s ervan, en misbruik voorkomen. Vooral in combinatie met biometrische gegevens. Dat zijn zulke gevoelige gegevens, dat daar in de privacywetgeving niet voor niets al een strikter regime voor geldt. Daarom is het belangrijk dat alle systemen die gebruik maken van kunstmatige intelligentie en biometrische gegevens ook in deze wet onder een strikt regime vallen waarin onze rechten en vrijheden goed worden beschermd. Immers, dat iets niet expliciet verboden is wil nog niet zeggen dat het mag of moet kunnen.Zo ook de Europese toezichthouders op gegevensbescherming