Het hoge woord is eruit: er is een akkoord over de wijzigingen van de AI-verordening. Een wet die nog vers van de pers was, is al aangepast voordat die volledig van kracht werd. Dat gebeurde onder druk van de techlobby. Die is de grote winnaar van deze afleidingsmanoeuvre. Intussen krijgt de sector ruimte om AI verder te ontwikkelen, zonder al te veel regels. Dat is slecht nieuws voor onze veiligheid en fundamentele rechten.

Uitstel, terwijl de klok doortikt

De AI-verordening, die in 2024 tot stand kwamLees hier meer over de AI-verordening, werd in fases ingevoerd en heeft een gelaagde werking. Zo wordt er onderscheid gemaakt tussen laag risico AI-toepassingen, hoog risico AI-toepassingen en verboden AI-toepassingen. Het grootste deel van de AI-verordening reguleert hoog risico AI-toepassingen. En die bepalingen zouden in augustus 2026 in werking treden. Dat wordt nu behoorlijk uitgesteld. Regels die betrekking hebben op autonome hoog risico AI-systemen gaan pas gelden vanaf 2 december 2027. En regels die gaan over hoog risico AI-systemen die in een product geïntegreerd zijn, gaan pas gelden vanaf 2 augustus 2028.

Het uitstellen van regels die ervoor moeten zorgen dat AI-toepassingen veilig, verantwoord en uitlegbaar zijn, staat in schril contrast met de snelheid waarbij AI-toepassingen ontwikkeld worden. Er is door tech-lobbyLees hier meer over die oproep regelmatig opgeroepen om de inwerkingtreding van de AI-verordening uit te stellen. Maar AI-bedrijven stoppen zelf bepaald niet met het doorontwikkelen van AI-toepassingen. Het enige dat wordt uitgesteld is de verplichting om bij die ontwikkeling rekening te houden met de veiligheid en fundamentele rechten van mensen. AI is nu al niet meer weg te denken uit ons dagelijks leven. En regelmatig worden mensen geraakt door de negatieve impact van AI-toepassingen. Het is dan ook bizar dat een wet die zo broodnodig is, wordt uitgesteld.

Belangrijke beschermingen die overeind zijn gebleven

Naast het uitstellen van de inwerkingtreding van de wet heeft de Europese Commissie ook geprobeerd regels af te zwakken. Gelukkig zijn een aantal belangrijke regels overeind gebleven. Zo blijven aanbieders verplicht AI-toepassingen te registreren in een Europese databank, ook als ze zelf vinden dat hun systeem geen hoog risico systeem is. Ook wordt er voor de verwerking bij bijzondere persoonsgegevens een strikte noodzakelijkheidsnorm aangehouden. Dit is om vooringenomenheid op te sporen en te corrigeren.

Verbod op nudify-systemen

Er is ook een lichtpuntje: er is een verbod in de wet opgenomen op nudify-systemenHier lees je meer over hoe schadelijk deze apps zijn zoals Grok, waarmee geseksualiseerde beelden kunnen worden gemaakt van bestaande en identificeerbare mensen. Met dit soort apps zijn er allerlei naaktbeelden gemaakt van voornamelijk vrouwen en kinderen. Dat heeft een enorme impact op mensen, want betrokkenen kunnen met die beelden vernederd, geïntimideerd en gechanteerd worden.

Hoe de tech-lobby onze tijd verspilt

De afgelopen maanden is er enorm veel tijd en capaciteit gestopt in het bespreken van wijzigingen op een wet die nét tot stand was gekomen. Europese instituties, lidstaten en maatschappelijke organisaties zoals Bits of Freedom hebben al jaren geïnvesteerd om tot een AI-verordening te komen via een democratisch proces. Het opengooien van een wet, waar jarenlang zorgvuldig over was onderhandeld, ondermijnt de regels die in de Europese Unie zijn afgesproken om met alle lidstaten tot gedragen wetten te komen. Het is bovendien respectloos naar iedereen die zich hier opnieuw over heeft moeten buigen, in het bijzonder naar kleine maatschappelijke organisaties met beperkte capaciteit. De Europese Commissie heeft zich laten beïnvloeden door de techlobbyZo bleek uit onderzoek van Corporate Europe Observatory en heeft vervolgens iedereen opgezadeld met onderhandelingen over een wet waar we al over uitonderhandeld waren. En de grootste winnaar van deze afleidingsmanouvre is exact die techlobby, die haar kans schoonziet om ondertussen AI door te ontwikkelen, zonder al te veel regels waar ze rekening mee moeten houden.

De onderhandelingen over de AI-omnibus zijn nu afgerond en er moet nog over gestemd worden dus deze omnibus lijkt zo goed als af. Maar de Europese Commissie heeft nog veel meer wetten open gegooid, waaronder de Europese privacywet; de Algemene verordening gegevensbescherming. Bits of FreedomLees hier hoe we dat doen zet zich ervoor in dat ook daarin onze rechten beschermd blijven.