De lange arm van de Big Brother Awards bereikt Ivo Opstelten

Niet computers maar mensen discrimineren

Algoritmen aanpassen aan de wereld, of omgedraaid?

Mensen discrimineren. Soms bewust, soms onbewust. Dat is niet opeens anders als ze computersystemen bouwen, code tikken of algoritmen schrijven.  Dat gebeurt ook door iets juist niet te bouwen.

De bezoekers van Europa’s belangrijkste conferentie op het gebied van privacy hebben een grote verantwoordelijkheid. Hun ideeën en oplossingen zijn mede-bepalend voor hoe onze maatschappij er uit gaat zien.

Het gebruik van historische informatie om de inzet van politieagenten te sturen, kan best slim zijn. Op die manier kunnen de agenten ingezet worden op de zogenaamde “hot spots”. Lekker efficiënt. Maar dat betekent ook dat je in die wijken vrijwel zeker meer arrestaties gaat zien dan in andere wijken. En als dat de enige informatie is waarop we de inzet van de politie baseren, dan is dat een zichzelf versterkend probleem. Zo’n wijk wordt daarmee gestigmatiseerd en op een achterstand gezet.

De CPDP-conferentie gaat, zoals de afgekorte naam al zegt, over computers, privacy en de bescherming van persoons­gegevens. Maar wie iets beter luistert ziet bijvoorbeeld dat het debat “Feminist perspective on privacy” vooral over sociale problemen gaat. Natuurlijk is er op internet ook veel ongelijkheid en wordt dat misschien in meer of mindere mate versterkt door technologie. Maar veelal zijn die problemen niet wezenlijk anders dan in de analoge wereld. Dat is met code misschien te sturen, maar niet te fixen.

Dat laatste maakt elk van de bezoekers van de conferentie verantwoordelijk. In Zweden blijkt er onrust te zijn ontstaan over een register van mishandelde vrouwen dat door de politie wordt bijgehouden. Het is natuurlijk maar de vraag of je de slachtoffers wilt indexeren, maar het helpt ook niet als agenten allerlei vervelende commentaren erbij zetten. Dat is een probleem. Eén van de geopperde oplossingen: computersystemen van de overheid moeten zo zijn opgezet dat ambtenaren, bij het gebruik ervan, gedwongen worden tot kritische zelfreflectie. En dat is bij uitstek een onderwerp voor deze conferentie.

  1. Anoniem

    ‘Feminist perspective on privacy’? Uh, welke feministen? Degene die voor gelijke rechten voor mannen en vrouwen zijn, of de radfems&SJWs die het liefst alle mannen die het niet met hen eens zijn dood zijn?
    Als het het eerste is, prima. Tweede groep kunnen we missen als kiespijn, en afgelopen halfjaar heb ik daarmee veel te veel te maken gehad (in combinatie met domweg luie media die niet aan factfinding doen of soms zelfs beweest een groep mensen als ‘vrouwenhatend’ wegzet en informatie manipuleren of verzinnen om het zo te doen lijken – bv de Guardian).

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.