Op ongekende snelheid dramt de Europese Commissie met de Digitale Omnibussen haar plannen om Europese wetgeving af te zwakken door de Europese Unie. Wij deelden samen met Stichting Data Bescherming Nederland onze positie met de Commissie Digitale Zaken van de Tweede Kamer en de Commissie voor digitalisering van de Eerste Kamer.

Snelheid en zorgvuldigheid gaan in een wetgevingsproces niet goed samen

In tegenstelling tot normale Europese wetgevingsprocedures die jaren kunnen duren, probeert de Europese Commissie haar plannen om belangrijke Europese wetten aan te passen, er in rap tempo doorheen te krijgen. Dit doet af aan wetten die zorgvuldig en via een democratisch proces tot stand zijn gekomen. Ook geeft dit het Europees Parlement en de lidstaten weinig ruimte om kritisch naar de voorstellen te kijken en stil te staan bij alle mogelijke gevolgen van de wetswijzigingen. Dit ondermijnt de basisbeginselen van het democratische wetgevingsproces waar de Europese Unie op gebouwd is.

Samen met Stichting Data Bescherming Nederland (SDBN) schreven we daarom een positie om de Eerste en Tweede Kamer te wijzen op de risico's voor mensenrechten als de door de Commissie voorgestelde wijzigingen zouden worden aangenomen.

Een streep door belangrijke waarborgen

Zo maken we ons zorgen over het voorstel om het begrip 'persoonsgegevens' af te zwakken. Als het aan de Europese Commissie ligt, vallen gepseudonimiseerde gegevens (gegevens die met een sleutel te herleiden zijn tot een persoon), niet per definitie meer onder persoonsgegevens. Dat is nu wel het geval.

Gepseudonimiseerde gegevens vallen dan alleen nog onder de Algemene verordening gegevensbescherming (AVG) als de verwerkingsverantwoordelijke waarschijnlijk over de middelen beschikt om de gegevens te herleiden tot een persoon. Dat is niet alleen heel vaag en moeilijk controleerbaar; het maakt ook dat deze gegevens bij de ene verwerkingsverantwoordelijke wél persoonsgegevens zijn en bij de andere niet. Want gepseudonimiseerde gegevens zijn niet alleen herleidbaar tot een persoon als je daar een sleutel voor hebt. Soms is het mogelijk door een combinatie van gegevens te achterhalen over wie het gaat. Als je bijvoorbeeld iemands reisgedrag in kaart brengt, kun je achterhalen waar iemand woont. Daarom zijn de waarborgen die de AVG oplegt bij gepseudonimiseerde gegevens ook belangrijk. Daarmee rommelen brengt veel (juridische) onzekerheid met zich mee voor betrokkenen. Ook maakt dit het toezicht erg ingewikkeld.

De obsessie om snel en groots AI te trainen

Daarnaast wil de Europese Commissie het makkelijker maken bijzondere persoonsgegevens te verwerken bij het trainen van AI-modellen. Wat de Commissie betreft mogen verwerkingsverantwoordelijken zich de moeite besparen als het te ingewikkeld is die gegevens uit een dataset te halen. Maar het verwerken van bijzondere persoonsgegevens is in beginsel verboden. Gegevens over iemands etniciteit, seksualiteit, gezondheid, religie of politieke voorkeur is zo gevoelig dat de risico's voor betrokkenen onwenselijk groot zijn als die gegevens in verkeerde handen komen.

En wat hebben we de afgelopen jaren gezien? Juist bij het gebruik van AI worden die risico's regelmatig verwezenlijkt, bijvoorbeeld omdat mensen met een bepaalde etniciteit of religie worden gediscrimineerd door middel van profileringsalgoritmen. Het is dan ook onbegrijpelijk dat zo'n belangrijk artikel uit de AVG, dat samenhangt met vele grondrechten en mensenrechten, wordt afgezwakt.

Maar daarmee stopt de obsessie van de Europese Commissie om snel en groots AI te trainen niet. Op grond van de AVG moeten verwerkingsverantwoordelijken een grondslag hebben om persoonsgegevens te verwerken, zoals toestemming, een overeenkomst, of een wettelijke taak of plicht. Je moet dus een goede reden hebben om persoonsgegevens te verwerken. Dat ontbreekt regelmatig bij het trainen of in gebruik nemen van AI. De oplossing van de Commissie is om een grondslag te fabriceren voor de ontwikkeling en het gebruik van AI, door hier speciaal een grondslag voor toe te voegen aan de AVG. Daarmee wordt de inzet van AI niet meer een middel maar het doel.

Zet mensenrechten voorop

De Europese Commissie doet alsof de voorstellen gedaan zijn om administratieve lasten te verminderen en zegt daarbij dat we ons geen zorgen hoeven te maken over mensenrechten. Maar niets is minder waar. De voorstellen hebben regelmatig weinig van doen met het verminderen van administratieve lasten. En mensenrechten worden wel degelijk drastisch afgezwakt als deze voorstellen het halen. We dringen er daarom op aan dat de Nederlandse overheid deze schadelijke voorstellen afwijst. Ze moet de Europese Commissie eraan herinneren dat niet de belangen van techbedrijven, maar de belangen van Europese burgers moeten worden beschermd.