• Menu

0 recente resultaten

De Europese AI-verordening zit vol gemiste kansen: de wet zal mensen niet voldoende beschermen

Vandaag is de AI-verordening aangenomen, nadat er voor de laatste keer in het Europees Parlement over gestemd werd. We zijn blij dat kunstmatige intelligentie nu eindelijk gereguleerd wordt, maar zien ook veel gemiste kansen om mensenrechten te beschermen.

Zojuist is bekend gemaakt dat de AI-verordening door het Europees Parlement is aangenomen. Afgelopen maandag werd voor de laatste keer gestemd over de AI-verordening en daarmee is de wet na drie jaar onderhandelen, op nog een paar formaliteiten na, definitief. Het beschermen van mensenrechten was een van de hoofddoelen van de wet. De mens moest centraal worden gesteld bij de inzet van AI en er moest een “ecosysteem van vertrouwen” worden gecreëerd. Dit sprak de Europese Commissie in 2021 al uit. Volgens Bits of Freedom zijn die doelen anno 2024 echter niet behaald.

Aangezien de bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI alles behalve vanzelfsprekend is, heeft Bits of Freedom zich met vele andere organisaties ingezet om de rechten van mensen te prioriteren. Nadia Benaissa, beleidsadviseur bij Bits of Freedom: “Mede door onze gezamenlijke inspanningen zijn een aantal verbeteringen doorgevoerd, maar we zijn ons er ook van bewust dat de Big Tech lobby en de behoefte van overheden om juist veel te mogen experimenteren met AI, erg sterk is geweest.”

Een van de regels uit de wet is bijvoorbeeld dat AI-toepassingen die een te groot risico vormen voor de rechten van mensen worden verboden. Denk daarbij aan het voorspellen wie de criminaliteit ingaat (zogenoemde predictive policing), real-time biometrische identificatie in de publieke ruimte en social scoring (waarmee mensen met hun gedrag plus of minpunten krijgen). “In eerste instantie klinkt dit misschien goed, maar we zien hier dat de verboden behoorlijk nauw zijn geformuleerd. Dit terwijl de uitzonderingen weer heel breed zijn. Daarmee blijft er helaas nog maar weinig over van échte verboden,” aldus Benaissa.

Verder zijn transparantieverplichtingen in de wet opgenomen. “Ook op dit punt vinden we de wet problematisch,” vertelt Benaissa. De verplichtingen houden in dat er een Europese database komt waarin aanbieders moeten aangeven wat het doel van het gebruik van een AI-toepassing is, zodat mensen op een toegankelijke manier op de hoogte kunnen worden gesteld. Ook moeten aanbieders hier de uitkomsten van zowel een Fundamentele Rechten Impact Assessment (FRIA) als een Privacy Impact Assessment (PIA) delen. “In eerste instantie klinkt dit weer positief, maar private bedrijven worden níet verplicht AI-systemen die ze gebruiken te registreren. Terwijl we nu al zien dat banken, incassobureaus en verzekeraars AI gebruiken die heel ingrijpend zijn voor mensen.”

“Daarnaast is een groot deel van de AI-verordening alléén van toepassing als er sprake is van een hoog risico.” Daar is, kort gezegd, sprake van als een AI-toepassing een significant risico oplevert voor iemands gezondheid, veiligheid of fundamentele rechten. In de wet is een lijst opgenomen van toepassingen die daar in ieder geval onder vallen, zoals toepassingen die worden gebruikt in het onderwijs en op de werkvloer, voor de toegang tot publieke voorzieningen of in de rechtsspraak.

Bovendien zijn in de wet beperkte rechtsmiddelen opgenomen wat betreft de rechten van burgers én is er een hele brede uitzondering opgenomen voor ‘nationale veiligheid’. Benaissa: “Als een AI-toepassing in dit kader wordt ingezet, dan geldt de AI-verordening niet. Maar wat precies onder nationale veiligheid valt, wordt uit de wet niet duidelijk. Daarmee wordt er dus een enorme maas in de wet gecreëerd waarmee een soort ‘digitale vrije zone’ ontstaat.”

“Al deze punten zijn gemiste kansen,” geeft Benaissa aan. “Europa had zich wat betreft de ontwikkeling en het gebruik van kunstmatige intelligentie kunnen onderscheiden van andere werelddelen. In plaats daarvan laat Europa nu zien dat de markt en economie belangrijker zijn dan de bescherming van mensenrechten.”

De wet zal in verschillende fases geïmplementeerd worden, met termijnen variërend tussen zes maanden en een twee jaar. Benaissa: “Wij zullen ons ook tijdens de implementatiefase blijven inzetten voor maximale bescherming van mensenrechten bij de ontwikkeling en het gebruik van AI.”


Neem voor meer informatie contact op met: Nadia Benaissa (beleidsmedewerker), nadia@bitsoffreedom.nl

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.

Jij bent een officiële supporter van een vrij internet!

Dankjewel voor het steunen en welkom als officiële supporter van een vrij internet.

Je ontvangt de inlogcode voor de donateursomgeving zo snel mogelijk via de mail. Of klik via de knop hieronder om meteen naar de donateursomgeving te gaan.

Naar donateursomgeving

Er ging iets mis tijdens de betaling

Je betaling is niet juist afgehandeld, probeer nog eens.

Support en doneer!

Meer weten over doneren aan ons? Lees er hier alles over.