De Eerste Kamer deelt dezelfde zorgen die wij hebben over het wetsvoorstel inzake kunstmatige intelligentie en schreef de Europese Commissie daarover. De Commissie heeft daar een reactie op gegeven en die is niet bepaald geruststellend.

De hiaten in het AI-wetsvoorstel

Eind vorig jaar uitte de Eerste KamerLees hier de brief van de Eerste Kamer haar zorgen aan de Europese Commissie over het wetsvoorstel over kunstmatige intelligentie. In een brief wordt de Commissie bevraagd over de geformuleerde verboden toepassingen, waaronder social scoring, het misbruik maken van kwetsbaarheden van groepen mensen en het gebruik van biometrische identificatie. Ook zijn er zorgen geuit over de risicogerichte benadering en de rechtsbescherming. Wij zijn verheugd te lezen dat de Eerste Kamer zich uitspreekt over dezelfde zorgenLees hier wat we daar eerder over schreven die wij ook hebben geuit. Minder blij zijn we met de antwoorden van de Europese CommissieLees hier het antwoord van de Europese Commissie.

Half werk

Terwijl steeds meer instellingen en organisaties pleiten voor een geheel verbod op biometrische surveillanceWil jij daar ook voor pleiten? Teken de petitie! in de openbare ruimte, blijft de Europese Commissie bij haar standpunt dat het verbod beperkt blijft tot realtime biometrische identificatie. Dat zijn dus alleen kunstmatige intelligentie toepassingen waarmee mensen ogenblikkelijk of in ieder geval “zonder aanzienlijke vertraging” herkend kunnen worden. Hiermee worden allerlei toepassingen nog steeds toegelaten. Ook toepassingen waarbij de identificatie achteraf plaatsvindt. Terwijl je daarmee evengoed kunt worden gevolgd in de openbare ruimte. En er zelfs een aantal risico'sLees hier meer over de risico's van post biometrische identificatie systemen bij komen kijken die er bij realtime toepassingen niet zijn. Zo kan er bijvoorbeeld met de beelden worden geknoeid. Of kan er achteraf in grote hoeveelheden beeldmateriaal gekeken worden of iemand er in voorkomt en waar iemand is geweest en met wie. Wat een groot risico meebrengt voor klokkenluiders of de bronbescherming van journalisten.

Tegenstrijdige antwoorden

Enerzijds lijkt te Europese Commissie de Eerste Kamer gerust te willen stellen door aan te geven dat er al een verbod is op het gebruik van biometrische gegevens in de Europese privacywet. Daarvoor geldt onder andere een uitzondering voor rechtshandhavingsdoeleinden. Sommige landen in de Europese Unie hebben wetgeving gemaakt om die uitzondering verder in te kleuren, andere landen niet. Daarom vindt de Europese Commissie het nu nodig om te zorgen voor een “gelijk speelveld” door in de hele Europese Unie voor dezelfde regels te zorgen. Daar valt natuurlijk wat voor te zeggen.

Wat echter verontrustend is, is dat de Europese Commissie een paar alinea's later allerlei “voordelen” opsomt van biometrische identificatie die op zijn minst discutabel zijn. Zo zou het herkennen van emoties nuttig kunnen zijn voor blinden en mensen met een autismespectrumstoornis. Het zou mensen die in slaap dreigen te vallen achter het stuur kunnen waarschuwen. En het zou de leeftijd van gamende kinderen kunnen checken om ze te beschermen tegen schadelijke inhoud.

Allemaal heel nobel bedacht, maar vooralsnog blijkt dat dit soort toepassingen vol fouten zit. Zo worden gezichten van mensen van kleur slecht of niet herkendLees hier over gezichtsherkenning en racisme en bestaat er geen wetenschappelijke basis voor het kunnen afleiden van emoties uit de uiterlijke kenmerken van een gezicht. Bovendien gaat het uit van de veronderstelling dat alle mensen emoties op dezelfde manier uiten, en gezichtsuitdrukkingen altijd hetzelfde betekenen, terwijl dat niet zo is. Al is het maar omdat we als mensen uit verschillende culturen en omgevingen onze emoties verschillend uittenLees hier waarom er zo veel mis gaat bij emotieherkenning. En is het gebruik van biometrische identificatie echt wat we willen inzetten om onze kinderen te beschermen?

Het is niet geruststellend dat de Europese Commissie in de opsomming van wat zij ziet als voordelen, compleet voorbij gaat aan de reeds bekende risico’s voor mensenrechten die gepaard gaan met deze toepassingen.

De komende periode buigt de Europese Unie zich in het Parlement en de Raad over het wetsvoorstel. Wij blijven ons inzetten om tot een wet te komen waarin fundamentele rechten effectief beschermd worden.