Steeds meer menselijk gedrag wordt gemodelleerd, en steeds vaker wordt de kloof tussen model en werkelijkheid vergeten, stelt onze Hans de Zwart in zijn openingsspeech bij de Big Brother Awards. We moeten scherp letten op wat in die kloof dreigt te verdwijnen. Onze menselijkheid en publieke waarden, bijvoorbeeld.

Goedenavond allemaal! Welkom in de Rode Hoed bij alweer de veertiende editie van de Nederlandse Big Brother Awards!

Vanavond krijgen we antwoord op de vraag wie in 2018 de grofste privacyschenders waren. En het was aan in 2018. Twee grote gebeurtenissen aan het begin van het jaar bepaalden hoe de rest van het jaar eruit zag op het gebied van privacy. Dit was de eerste:

Weten jullie het nog? Dit is het kaartje met in het rood de gebieden waar je wel wilt wonen. De gebieden waar de vrijheid het wint van de angst. Jij en 3 miljoen 317 duizend en 495 anderen zeiden “nee” tegen massasurveillance. We wonnen met zijn allen het referendum tegen het sleepnet. Miljoenen mensen die tegen de overheid zeiden: tot hier, en niet verder.

En deze klokkenluider luidde de tweede gebeurtenis in:

In maart vertelde Christopher Wylie aan de Britse krant The Observer hoe Cambridge Analytica met behulp van Facebook de psychologische profielen van tientallen miljoenen mensen in handen had gekregen. Vanaf dat moment is Facebook in een shitstorm aan negatieve publiciteit beland waarvan het de vraag is of ze er ooit nog uit zullen komen.

Het Cambridge Analytica schandaal heeft een belangrijke consequentie gehad. Data is een politieke issue geworden. Iedereen ziet nu opeens het dominante business model van het internet. Een model waarbij het afbreken van privacy centraal staat en publieke waarden onder druk komen te staan. Wat wij hier samen allang weten begrijpt de rest van de samenleving nu ook. Zonder privacy heb je geen eerlijke verkiezingen, zonder privacy kun je gelijkheid niet garanderen, en zonder privacy zijn we niet vrij en autonoom.

Deze denker heeft recent de vinger op de zere plek van dit business model gelegd. Shoshana Zuboff heeft zeven jaar gewerkt aan haar boekThe Age of Surveillance Capitalism over Surveillance Capitalism en het is vorige week eindelijk uitgekomen.

Het is een verschrikkelijk belangrijk boek. Het wordt zelfs vergeleken met Silent Spring, het boek waarmee Rachel Carson in de jaren zestig het bewustzijn voor de milieuproblematiek aanwakkerde. Zuboff doet hetzelfde, maar dan voor onze informatiesamenleving.

Om uit te leggen wat surveillance capitalism is geef ik jullie graag een korte cursus “Hoe word ik een surveillance kapitalist?”

Een surveillance kapitalist word je in drie stappen.

Stap 1: Verzamel zoveel mogelijk data. Pak alles wat je pakken kan. Zorg ervoor dat alles en iedereen een sensor wordt voor jouw dataverzamelingsmachine.

Stap 2: Gebruik slimme datawetenschappers en machine learning algoritmes om patronen te ontdekken in de data. Zet deze in om een model van de wereld te maken, of in ieder geval van een deel van de wereld. Voor dit model heb je geen persoonsgegevens nodig. Geaggregeerde of geanonimiseerde data is genoeg. Je hoeft je dus geen enkele zorgen te maken over de AVG. En omdat de data zogenaamd van niemand is hoef je er geen toestemming voor te vragen of ervoor te betalen.

Stap 3: Dit model geeft je inzicht in onze huidige wereld. En als je de huidige omstandigheden weet, dan kun je met je model kansberekening doen over hoe de toekomst eruit zou kunnen zien. Die kansberekening kun je—ongeacht het gebrek aan precisie—verkopen op de markt. De meest bekende markt voor dit soort halfslachtige voorspellingen is advertenties. Iemand die zich op manier X gedraagt is misschien wel geïnteresseerd in het kopen van product Y. Maar in principe kun je de kans op van alles berekenen. Bijvoorbeeld over hoe productief een werknemer zal zijn, of op welke partij een persoon gaat stemmen. Kansen zijn geen zekerheden, maar dat vinden geen van je klanten een probleem. Foute inschattingen zijn slechts collateral damage.

Voor de mensen met een nog matiger moreel kompas is er ook nog een stap 4. Als je weet dat een bepaalde omgeving leidt tot bepaald gedrag, en je hebt controle over hoe de omgeving wordt beleefd, dan kun je gedrag ook proberen te maken. Een simpel voorbeeld: Google Maps kan niet alleen voorspellen waar het druk gaat zijn in het verkeer. Maar met een paar kleine wijzigingen in de routeplanner kan het die drukte ook zelf creëren. Stap 4 is natuurlijk ook gebeurd rondom de verkiezing van president Trump en met het referendum over de Brexit. Met stap 4 kun je het wereldbeeld van mensen tweaken en bepaalde mensen juist wel of niet naar de stembus krijgen.

Surveillance capitalism is hiermee dus de uitvinding dat je het gedrág van mensen kunt vermarkten. Alles wat we doen wordt daarmee handelswaar.

Ik wil graag inzoomen op twee gevolgen van deze manier van geld verdienen. Het eerste gevolg is dat zaken die we altijd als publieke of collectieve goederen hebben beschouwd (verder) worden geprivatiseerd. Het tweede gevolg is dat we als mensen constant tot data gereduceerd worden.

Toen ik een tijd geleden eens door de instellingen van mijn Vodafone account liep, kwam ik bij het kopje ‘privacy’ deze optie tegen:

Het vinkje om geanonimiseerde gegevens beschikbaar te maken voor analyse staat standaard aan. Het bleek dat mijn geanonimiseerde data werd gebruikt door Mezuro, een bedrijf dat gespecialiseerd is in “mobility information”.

Eén van de neveneffecten van mobiel telefoneren is dat jouw telecomprovider meestal vrij precies weet waar je bent. Vodafone heeft dus een database met alle verplaatsingen van één op de drie Nederlanders. En op basis van die verplaatsingen kunnen ze een model maken van hoe wij allemaal door het land bewegen, inclusief (denk aan stap 2 uit cursus) voorspellingen over die bewegingen.

De grootste klant van Mezuro is de overheid. Als de gemeente Amsterdam graag wil weten hoeveel extra mensen er op Muiderpoort op de trein stappen als ze de Oostelijke kant van de ringweg dichtgooien, dan kunnen ze bij Mezuro een antwoord op die vraag kopen. Deze gegevens met een publieke waarde worden dus door een private partij terugverkocht aan het publiek.

Dit is nog kinderspel in vergelijking tot de manier waarop Google de wereld modelleert. Alleen krijgen we bij Google de voorspellingen over de wereld vaak gratis terug, zolang we maar akkoord gaan met Google’s volledig eenzijdig opgestelde voorwaarden.

Het is moeilijk uit te leggen hoe dit precies werkt. Ik gebruik vaak de analogie met het voorspellen van het weer.

Het Koninklijk Nederlands Meteorologisch Instituut, de KNMI, heeft al sinds 1854 de publieke taak om het weer te voorspellen, inclusief sneeuwwaarschuwingen en weerkaarten. De KNMI doet dat met een grote hoeveelheid sensors en wordt daarbij vaak geholpen door de industrie, bijvoorbeeld door luchtvaartmaatschappijen die metingen doorgeven. En hoewel de KNMI inmiddels ook een ‘Strategisch Business Manager’ heeft, is veel van de data en de weermodellen publiek beschikbaar en door iedereen te gebruiken hoe ze maar willen.

Stel je eens voor hoe het zou zijn als Google deze taak over zou nemen. Ten eerste zou Google ons dan verleiden om op allerlei manieren sensor te worden binnen hun netwerk. Vervolgens zou Google ons maar een heel beperkt deel van die door ons verzamelde data teruggeven. Wij zouden niets te zeggen hebben over welk deel. En dit alles zou alleen gebeuren onder Google’s voorwaarden. De betrouwbaarheid van Google’s modellen zou niet te controleren zijn. En we zouden ons bij elk advies van Google (“neem je paraplu mee”) moeten afvragen of dat advies er ook zou zijn zonder een adverteerder (bijvoorbeeld een bedrijf dat paraplu’s verkoopt). Google heeft het weer nog niet als taak in handen, maar in heel veel andere domeinen zijn ze al op dit punt of bewegen ze ernaar toe.

Het weer is ook een mooie illustratie van mijn tweede punt, dat alles en iedereen tot data gereduceerd wordt. Er zit nogal een grote kloof tussen het weer als model en wat er daadwerkelijk aan de hand is zodra je de deur uit stapt. Het model is een reductie van de werkelijkheid en bij die reductie gaat altijd iets verloren.

Steeds meer menselijk gedrag wordt gemodelleerd, en steeds vaker wordt de kloof tussen model en werkelijkheid vergeten. Een model werkt met statistische waarden zoals gemiddelden, maar geen enkel mens is een gemiddelde. Onze menselijkheid is te complex om in het hokje van een model te stoppen.

Er zit een kloof tussen wat het learning analytics systeem bijhoudt over studenten en de daadwerkelijke student. De data die er in de verschillende zorgsystemen zitten geven nooit een volledig beeld van een patiënt. En ook de meetdata over werknemers zegt niet veel over hoe die hun werk doen. Naarmate we steeds vaker beslissingen nemen op basis van de systeemwerkelijkheid in plaats van op basis van het individu, en naarmate die beslissingen steeds verder worden geautomatiseerd, wordt de kans groter dat we in die kloof vallen. Te beginnen met de mensen die in deze samenleving al een zwakkere positie innemen.

Probeer tijdens deze Big Brother Awards bij elk van de genomineerden na te denken over hun model van de wereld, en de afstand tot de werkelijkheid. En bedenk dan ook op welke manier publieke waarden en tot data gereduceerde mensen in die kloof dreigen te verdwijnen. En stel jezelf de vraag: Ben je de baas over het dataprofiel dat van jou ontstaat of heeft iemand anders daar de controle over? Kun je het laten aanpassen, er tegen in verweer komen? En kun je de organisatie die jouw dataprofiel in handen heeft tot verantwoording roepen?

De persoon die ons daarbij gaat helpen vanavond is Monique Steijns, privacyjurist en presentator van de talkshow Zwart zonder Suiker. Maar voordat ik haar het woord geef wil ik heel kort onze partners bedanken.

De vormgeving van de avond, van de awards en van de website is gedaan door Vera van de Seyp en Michael Tjia. De kaartverkoop konden we doen met Voordemensen. We zijn in deze fantastische zaal dankzij De Rode Hoed. De livestream wordt ook dit jaar weer gedaan door Engage. En de Felipe Rodriguez Award konden we weer uitreiken dankzij XS4ALL. En over die laatste partner wil ik nog even iets over zeggen.

Hoewel XS4ALL al ruim twintig jaar van KPN is heeft het al die tijd een eigen technische infrastructuur in de lucht gehouden met een focus op veiligheid en op privacy. KPN heeft aangekondigd deze expertise weg te willen gooien en zegt daarmee dat de community van XS4ALL-medewerkers én al haar hondstrouwe klanten voor KPN niets waard is. Binnenkort zijn er nog maar twee smaken internet in Nederland en ik vind allebei die smaken vies.

Hou dus de komende tijd de campagnewebsite xs4allmoetblijven.nl in de gaten, want het zou doodzonde zijn als de mensen, techniek en idealen van XS4ALL verloren zouden gaan.

Dat gezegd hebbende wil ik jullie een hele inzichtrijke avond wensen. Mag ik van jullie een applaus voor Monique Steijns‽