Privacyvoornemens van big tech zijn schone schijn

De week van kindersurveillance, #KeepItOn en Trump Ipsum

De week van 8chan, internetnatuur en algoritmische octrooien

Dit zijn de interessante, ontroerende, zorgwekkende en/of hilarische linkjes over internetvrijheid die ik deze week graag met je deel.

Kindersurveillance bij zomerkampen: “Is this your camper?”

Je stuurt je kind op zomerkamp. En in plaats van dat je dochter een weekje los kan komen van het ouderlijk toezicht krijg je elke dag tientallen foto's toegestuurd van hoe ze aan het genieten is van kamp. Helemaal geautomatiseerd, en mogelijk gemaakt door gezichtsherkenning. Deze dystopische realiteit wordt door The Washington Post beschreven: “It’s all about building this one-way window into the camper’s experience: The parent gets to see in, but the camper’s not distracted from what’s going on,” zegt één van de leveranciers van de software die dit mogelijk maakt. De zorgen van ouders worden er natuurlijk alleen maar groter om. Waar de kampleiding vroeger een paar telefoontjes in de maand kregen, krijgen ze nu een paar telefoontjes per uur van ouders die vinden dat hun kind niet gelukkig keek op de foto of die zich afvragen waarom hun kind bij een bepaalde activiteit niet te zien was. Kinderen laten zich dus welwillend met glimlach fotograferen: “A photo a day keeps your mum away.” Is dit de volgende stap naar kinderen die geen eigen identiteit meer ontwikkelen en wellicht nooit meer autonoom kunnen worden?

Een jaar aan opgespaarde beveiligingsproblemen

In de VS had je in de afgelopen weken zowel Black Hat als DEF CON, twee grote beveiligingsconferenties. Beveiligingsonderzoekers sparen een jaar lang hun ontdekkingen op om ze daar te kunnen presenteren. Het nieuws stond dus vol met absurde verhalen over hoe systemen en processen te hacken zijn. Zo testte James Pavur of hij het Europese recht om je data bij een bedrijf op te vragen kon misbruiken om de data van zijn verloofde op te vragen. Het is shocking om te zien dat dat ongeveer een kwart van de bedrijven de informatie aan hem gaf zonder de identiteit van zijn verloofde te checken.

Ik dacht eigenlijk dat de phone phreakers, mensen die het leuk vinden om telefoonsystemen te hacken, nu wel zo'n beetje uitgestorven zijn. Maar dat blijkt niet te kloppen. Er is bijvoorbeeld nog een kleine community van phreakers die het leuk vindt om te bellen naar de telefoons in liften. De meeste liften hebben namelijk een telefoon om mee te kunnen bellen in geval van nood. Will Caruana beschrijft in zijn praatje allerlei manieren om bij die telefoons te komen en de gebruikers van de lift verrassen met een inbeller.

Truman Kain heeft zijn Tesla omgetoverd tot een mobiel surveillance station. Hij heeft de camera's van de autopilot-functie overgenomen en de data daarvan gecombineerd met een simpel nummerbordherkenningsalgoritme. Nu kan zijn auto bijhouden welke auto's er allemaal bij hem in de buurt zijn gekomen en of hij niet te lang gevolgd wordt door dezelfde auto.

In het land van de auto is het natuurlijk altijd leuk om met nummerborden te spelen. Joseph Tartaro dacht dat het grappig zou zijn om een vanity plate met daarop ‘NULL’ te nemen. Het resultaat was $&nsp;12.049 aan openstaande verkeersboetes die zijn kant op kwamen, terwijl hij stiekem had gehoopt dat dit er juist voor zou zorgen dat hij geen boetes zou krijgen. De journalist Christopher Null (die eerder heeft geschreven over hoe computers niet met zijn achternaam kunnen omgaan) heeft weinig sympathie voor Tartaro: “He had it coming.”

Tot slot hebben de mensen van Adversarial Fashion kleding ontworpen waarmee je nummerbordherkenningsalgoritmes in de war kunt schoppen:

Vest met allemaal nummerborder erop geprint

Geef hier je e-mailadres op om deze lees-, luister en kijktips elk weekend in je inbox te ontvangen.

De urgentie van #KeepItOn

We zijn in Nederland gewend aan een internet dat het altijd doet. Laten we hopen dat er voor ons hier geen toekomst is waarin de regering besluit om het internet even uit te zetten als er net wat teveel protest tegen de machthebbers op straat staat. Maar in veel andere landen gebruikt de overheid het uitzetten van het internet wel degelijk als middel om de bevolking onder controle te houden. Onze zusterorganisatie Access Now draait daarom al een aantal jaar de #KeepItOn campagne om hier aandacht voor te vragen. Nadia Ezzeroili doet dat ook in de Volkskrant en beschrijft hoe het voelt om in een onzekere situatie van het internet afgesloten te worden:

Ik kreeg […] een knoop in mijn maag toen het internet op de ochtend van de demonstratie rondom het plein plots vertraagde. En verder bleef vertragen tot enkele uren na het geplande burgerprotest, dat uiteindelijk hard werd neergeslagen. Alsof een deken van mist neerdaalde op de stad, net wanneer er gevaar dreigde.

Hoe Google het vertrouwen van haar werknemers verloor

Het waren roerige tijden de afgelopen paar jaar voor Google. De eigen medewerkers waren (onder meer) boos over: een contract met het Amerikaanse leger, de miljoenenbonussen waarmee de daders van seksueel misbruik de deur werden gewezen, een zoekmachine in China en de vermeende diversiteitscultus in het bedrijf: “[…] the company would find itself in the same position over and over again: a nearly $800 billion planetary force seemingly powerless against groups of employees—on the left and the right alike—who could hold the company hostage to its own public image.” In een groot artikel in Wired wordt alles nog eens rustig op een rijtje gezet. Nitasha Tiku beargumenteert dat de open cultuur van Google tot voor kort veel ruimte gaf voor protest (20.000 medewerkers liepen de straat op om te protesteren tegen de manier waarop het management met beschuldigingen van misbruik om ging). Maar dat deze cultuur inmiddels vervangen is dan door de klassieke repressieve managementstijl waarin protest de mond gesnoerd wordt en het management niet meer eerlijk communiceert met haar werknemers.

Wat als Facebook interoperabel zou zijn?

Cory Doctorow gaat door met zijn serie over interoperabiliteit. Deze keer kijkt hij naar privacy. Hij maakt het argument dat we natuurlijk niet moeten verwachten dat Facebook de problemen van Facebook gaat oplossen (ook niet als je ze dat heel streng zou vragen). Daarom zijn interoperabiliteitstandaarden belangrijk: dan zouden kleinere gemeenschappen zelf de tools kunnen kiezen waarmee ze met elkaar omgaan. Maar het maken van standaarden is een lastig proces dat makkelijk geperverteerd kan worden door de industrie. Doctorow laat dit zien aan de hand van het standaardiseringsproces rondom Amerikaanse stemcomputers (naar aanleiding van het Gore-Bush debacle): in plaats van dat er bepaald werd wat die machines moesten kunnen, werden er standaarden bedacht waaraan de machines die al waren gekocht konden voldoen. Doctorow is bang dat dit ook in de big tech-sector zou kunnen gebeuren. Toch ziet hij kansen om alternatieve diensten te maken rondom de Facebook data. “Such a tool would allow someone to use Facebook while minimizing how they are used by Facebook.”

Het radicaliserende effect van YouTube in Brazilië

We hebben het al een paar keer langs zien komen: het idee dat YouTube gemarginaliseerde meningen mainstream maakt. Er is zat anekdotisch bewijs dat je door het aanbevelingsalgoritme naar steeds extremere content wordt geleid en dat dit een negatieve sociale impact heeft (dat is waarom je de aanbevelingen eigenlijk altijd moet negeren). Maar het is methodologisch heel lastig hard te maken dat Bolsonaro zonder YouTube niet verkozen zou zijn. Onderzoekers van Harvard's Berkman Klein Center proberen dat bewijs wel rond te krijgen.

Trump Ipsum – Make Place Holder Text Great Again

I'm speaking with myself, number one, because I have a very good brain and I've said a lot of things. I have a 10 year old son. He has words. He is so good with these words it's unbelievable.

We have so many things that we have to do better... and certainly ipsum is one of them. I think the only card she has is the Lorem card. I don't think anybody knows it was Russia that wrote Lorem Ipsum, but I don't know, maybe it was. It could be Russia, but it could also be China. It could also be lots of other people. It also could be some wordsmith sitting on their bed that weights 400 pounds. Ok?

I was going to say something extremely rough to Lorem Ipsum, to its family, and I said to myself, "I can't do it. I just can't do it. It's inappropriate. It's not nice." Does everybody know that pig named Lorem Ipsum? She's a disgusting pig, right? Lorem Ipsum's father was with Lee Harvey Oswald prior to Oswald's being, you know, shot.

The other thing with Lorem Ipsum is that you have to take out its family. An ‘extremely credible source’ has called my office and told me that Barack Obama’s placeholder text is a fraud.

Help mee en steun ons

Door mijn bijdrage ondersteun ik Bits of Freedom, dat kan maandelijks of eenmalig.