De Tweede Kamer is voor het verplicht stellen van een algoritmeregister voor overheden. Dat is een stapje in de goede richting om transparantie en controleerbaarheid af te dwingen, maar daarmee zijn we er nog lang niet.

Transparante en controleerbare algoritmen

Met een verplicht algoritmeregister worden we geïnformeerd over de algoritmen die overheden inzetten en die impact kunnen hebben op burgers. Dat moeten we willen omdat, zoals de Tweede Kamer steltLees hier de motie, algoritmen kunnen leiden tot discriminerende gevolgen voor mensen. Het register moet zorgen voor meer transparantie.

Niet zo slimme algoritmen

Sommige gemeenten maken al gebruik van zo'n algoritmeregister, zoals de gemeente AmsterdamZie hier het register van de gemeente Amsterdam. Eén van de onderwerpen in het register is het ‘tegengaan van discriminatie’. Daaronder worden risico’s benoemd die mogelijk zouden kunnen leiden tot discriminatie. Een aantal maanden terug stond er een algoritme tussen van een ‘slimme camera’ die in de openbare ruimte keek of mensen wel voldoende afstand van elkaar hielden. Op een groot scherm werden de gezichten van mensen vervangen door gekleurde smiley’s. Groen voor de mensen die genoeg afstand hielden, rood voor mensen die te dicht op elkaar stonden.Bekijk hier de zogeheten 'anderhalve meter monitor'

Een risico van dit wegens corona ingevoerde algoritme, was dat de camera’s mogelijk niet alle mensen zou herkennen, bijvoorbeeld omdat men niet wist of het algoritme wel op verschillende huidskleuren, leeftijden, lengtes of kledingstijlen getrained zou zijn. Maar dat weerhield de gemeente er niet van om de camera’s alsnog in te zetten. En dat illustreert meteen waarom een algoritmeregister onvoldoende is om te zorgen voor veilig gebruik van algoritmen en kunstmatige intelligentie. Het benoemen van de risico’s zonder daar maatregelen voor te treffen, zorgt er vooral voor dat risico’s genormaliseerd en geaccepteerd worden.

Voor veilig gebruik van algoritmen zijn meer maatregelen nodig

Wat ons betreft moeten er daarom een aantal treden doorlopen worden voordat algoritmen en kunstmatige intelligentie gebruikt worden. Allereerst moeten toepassingen die zo risicovol zijn dat de voordelen niet opwegen tegen de nadelen, simpelweg worden verboden. Vervolgens moet er een mensenrechtentoets plaatsvinden voordat het algoritme of de kunstmatige intelligentie wordt ingezet. Daarmee kunnen risico’s worden gedetecteerd én kunnen er maatregelen worden getroffen om die risico’s weg te nemen of sterk te verminderen. De volgende stap is het afleggen van verantwoording. Een algoritmeregister biedt een beetje transparantie. Maar nog belangrijker is dat we kunnen controleren of algoritmen en kunstmatige intelligentie toepassingen op een juiste en rechtmatige manier werken. Vooral als men toepassingen gaat inzetten om tot besluitvorming te komen.

Bescherming op Europees niveau

Op dit moment ligt er een Europees wetsvoorstelLees hier wat we daar eerder over schreven dat nog onvoldoende bescherming biedt aan organisaties, zoals overheden, die kunstmatige intelligentie gebruiken. Zij mogen wel weten hoe de kunstmatige intelligentietoepassing werkt, maar kunnen niet controleren of de werking ook juist en rechtmatig is. En de mensen die door kunstmatige intelligentie toepassingen geraakt (kunnen) worden, hebben al helemaal weinig mogelijkheden om transparantie en controleerbaarheid af te dwingen. Dat moet echt beter. Daarom blijven wij ons inzetten voor wetgevingLees hier wat we daar eerder over schreven waarin onze rechten écht goed beschermd worden. Ook zullen wij er bij de Tweede Kamer op aandringen dat we meer nodig hebben dan een algoritmeregister, hoewel het register een goed begin is. Want transparantie zonder verantwoording is wat ons betreft een doorzichtige truc.