Donateursdag 2018: Zo kan jij ons helpen

De week van tieners op smartphones, gratis Wi-Fi en de misdaadmachine van New York

Terugblik op de Privacytest

Dit zijn de interessante, ontroerende, zorgwekkende en/of hilarische linkjes over internetvrijheid die ik deze week graag met je deel.

Amazon schrapt een bevooroordeeld recruitmentalgoritme

Eén van de redenen van Amazon's succes is dat ze goed zijn in het automatiseren van alles. Het is dus niet verrassend dat ze hebben gewerkt aan een recruitmentmachine. Het idee: je gooit er 100 CV's in en het algoritme bepaalt vervolgens wie je het beste kunt aannemen. Maar Amazon kreeg dat niet werkend. Wat ze ook probeerden, er bleven negatieve vooroordelen inzitten over vrouwelijke kandidaten. Inmiddels snappen steeds meer mensen gelukkig hoe dat komt: de inputdata waarmee het model gemaakt wordt is bevoordeeld en daarmee ook de beslissingen. Bias in, bias out.

Cathy O'Neil is niet verrast. Het is juist verrassend dat Amazon zijn huiswerk heeft gedaan en besloten heeft om het algoritme niet in de zetten. Volgens O'Neil is het gebruik van dit soort algoritmes schering en inslag. Maar willen de bedrijven niet weten dat ze vol met vooroordelen zitten. Zodra ze dat wel weten zullen ze immers meer geld aan recruitment uit moeten geven.

De kernpunten uit het boek van O'Neil zijn recent trouwens heel mooi geanimeerd door de Royal Society of Arts. Vergeet nooit haar definitie van een algoritme: een mening verpakt in wiskunde.

Tieners en hun smartphones

Kelli van der Waals heeft de afgelopen week een serie gepubliceerd bij Vrij Nederland over tieners en hun smartphones. Ze leunt daarbij in haar analyse op het boek iGen van Jean Twenge. Twenge is ervan overtuigd dat de generatie die opgroeit met smartphone écht anders is dan de generaties daarvoor. Net als Twenge gaat Van der Waals gelukkig praten met de tieners en de verhalen zijn interessanter dan de statistieken. Zoals altijd begrijpt de jeugd het veel beter dan hun ouders denken. Luister bijvoorbeeld naar Timo die weet waarom mensen zich kunnen verliezen in de apps op hun telefoon:

Door megasluwe psychologische trucs die de makers van apps gebruiken om jou verslaafd te maken. Zoals de meldingen die je krijgt op gezette tijden. Dat is niet per ongeluk, die komen wanneer zij denken dat jij in een moment van niks zit. Ik weet zeker dat Facebook weet wanneer ik thuis kom en weinig te doen heb. Dan zit ik veel op Instagram en WhatsApp (waar Facebook eigenaar van is, red.). En dan krijg ik meldingen van welke van die apps dan ook. “Pling!” Zodat ik weer even word afgeleid. Op school krijg ik die meldingen niet. En die apps zijn er ook zo op ingericht dat je zo lang mogelijk blijft scrollen. Er is steeds nog een bericht, je komt nooit aan het eind.

Mij lijkt het logischer dat Timo vooral meldingen krijgt als hij thuis is omdat zijn vrienden dan ook thuis zijn in plaats van op school (waar Facebook vast niet gebruikt mag worden). Maar daar zit precies het probleem: je weet met dit soort platforms eigenlijk nooit of je wel of niet gemanipuleerd wordt.

Geef hier je e-mailadres op om deze lees-, luister en kijktips elk weekend in je inbox te ontvangen.

De kloof tussen het model en de werkelijkheid

Bij de Reply All podcast kijken ze in twee afleveren naar de genesis van CompStat, de software die de politie in New York gebruikt voor onder meer misdaadstatistieken en predictive policing. Voor mij is het weer een tragisch voorbeeld van de kloof tussen de gemodelleerde wereld in het computersysteem en de werkelijkheid. In dit geval leidt die kloof onder meer tot een diep racistisch handhavingsbeleid. Het meest tekenend vond ik het moment waarop de toenmalige burgemeester van New York boos was op zijn politiemensen omdat ze niet genoeg arrestaties deden. De politie zei dat dit juist goed nieuws was: er waren minder arrestaties omdat er minder criminaliteit was. De reactie van de burgemeester was vervolgens onverbiddelijk: “No. Crime goes down, arrests go up.” Het gevolg: massale onterechte arrestaties.

Ook in Nederland moeten er kwantitatieve doelstellingen zijn die in een systeem gemeten worden en vervolgens perverse gevolgen hebben voor de werkelijkheid. Ken jij ze? Let me know!

Zonder internet geen strijd voor internetvrijheid

De vanzelfsprekendheid waarmee ik het internet op kan gaan om de artikelen te vinden die ik hier elke week deel staat in schril contrast met de het totale gebrek aan internettoegang van minstens de helft van de wereldbevolking. Het blijkt dat de groei van het aantal mensen dat online komt (en dat ben je volgens de VN al als je in de laatste drie maanden minstens één keer het internet hebt gebruikt) aan het afnemen is. Van de 3.8 miljard mensen die offline zijn is een disproportioneel groot percentage vrouw. Naarmate we allemaal steeds afhankelijker worden van digitale technologie raken deze mensen verder gemarginaliseerd. Op boos van te worden dus.

Eén van de meest geïnspireerde verhalen over de oorzaken van het gebrek aan betaalbaar internet, inclusief een aantal oplossingsrichtingen, hoorde ik vorig jaar op MozFest. Allan Knot-Craig vertelde daar dat betaalbare connectivity volgens hem het best op te lossen is door het netwerk zo goedkoop mogelijk te maken (daar is Wi-Fi heeft meest geschikt voor) en vervolgens op zoek te gaan naar duurzame business modellen.

Koren op mijn molen door de baas van Mozilla

Het stoort mij al een tijdje dat we met alle aandacht voor het belang van de bètavakken (die zijn uiteraard heel belangrijk) de menswetenschappen uit het oog lijken te verliezen. In mijn reactie aan de Tweede Kamer op de digitaliseringsstrategie van de regering heb ik dat ook aangegeven: we kunnen de problemen met onze digitaliserende samenleving niet oplossen zonder filosofen (yes, I would say that), psychologen, literatuurwetenschappers, antropologen, historici, etc.

Michell Baker, de baas van Mozilla, heeft dat ook door:

It crystallised for me that if we have Stem education without the humanities, or without ethics, or without understanding human behaviour, then we are intentionally building the next generation of technologists who have not even the framework or the education or vocabulary to think about the relationship of Stem to society or humans or life.

Voor de mensen met veel hardware skills én veel tijd

Wat doe je als je bij het schrijven op je laptop steeds afgeleid wordt door het internet? Dan ga je op zoek naar een apparaat waarmee je alleen maar kunt typen, maar dan wel eentje waarmee je je typfouten kunt corrigeren. En wat doe je als daar geen open versie van is? Dan koop je een los e-reader scherm en een toetsenbord en bouw je met je favoriete hout een kastje.

Een digitale typmachine in een kist

Geef een reactie

Het e-mailadres wordt niet gepubliceerd.

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.