Facebook —het grootste land ter wereld— is gemaakt om te profileren (ook etnisch)
Typhoon werd als zwarte rapper in een mooie auto aangehouden. Sindsdien is de discussie over etnisch profileren terecht losgebarsten. Er is daarbij zelden aandacht voor het feit dat de businessmodellen van diensten uit Silicon Valley grotendeels zijn gebaseerd op profilering, en dat etnisch profileren daarbij als innovatief marketinginstrument wordt aangeprezen.
Foto: Segregated cinema entrance
Eerder dit jaar presenteerden Facebook en Universal Pictures bijvoorbeeld hun nieuwste advertentie-innovatie, de cutting edge op het gebied van marketing: het etnisch segmenteren van de Facebook-gebruikers. Het voorbeeld dat ze daarvoor gebruikten was de film Straight Outta Compton, een onverwachte bioscoophit. De bedrijven hadden het potentiële publiek in drieën gedeeld: Afro-Amerikanen, latino's en het "algemene publiek" (daar hoorden de Afro-Amerikanen en latino's dus niet bij). Voor elk van de drie groepen maakten ze een andere trailer.
Waarom? Volgens het multiculturele team van de informatiegiganten was het algemene publiek nog niet bekend met N.W.A. (de hiphopgroep die centraal staat in de film). De trailer voor dat publiek verkocht de film dus als de lange weg naar de top van hoofdpersonen Ice Cube en Dr. Dre, die wel breder bekend zijn. Een tweede trailer, die Afro-Amerikanen te zien kregen, was compleet verschillend: deze toonde hoe N.W.A. Compton, een voorstad van Los Angeles, op de kaart heeft gezet. Latino's zagen een kortere trailer met Spaanstalige teksten.
Na kritiek hierover in de media legde Facebook heel snel uit dat ze geen van hun gebruikers als zwart bestempelen. In plaats daarvan proberen ze te beoordelen of iemand affiniteit heeft met zwarte cultuur. Ze beloofden daarbij niet te zullen kijken naar foto's (hoewel ze waarschijnlijk allang een uitgebreid frace recognition algoritme hebben), noch naar namen of demografische gegevens. In plaats daarvan kijken ze naar de voorkeuren van een gebruiker en naar wat die persoon op internet doet. Kort gezegd: als je naar FunX luistert en "Zwarte Piet is Racisme" 'leuk vindt', dan zul je wel zwarte affiniteit hebben.
Als je dit ziet als een onschuldige vorm van gepersonaliseerde reclame of als een manier waarop een 'zwarte film' een mainstream publiek kan bereiken, dan mis je het grote plaatje. Facebook is met zijn 1.6 miljard 'inwoners' het grootste land ter wereld. Het bedrijf heeft een gigantische database waarmee ze hun populatie op elke mogelijk manier in stukjes kunnen verdelen.
Wil je alleen maar witte mensen in je Airbnb? Daar zou Facebook in theorie bij kunnen helpen. Op zoek naar een afzetmarkt voor je medicijn tegen kanker? Op Facebook zijn er miljoenen gebruikers die kanker 'leuk' vinden. Ben je als overheid geïnteresseerd in alle mensen met een Koerdische affiniteit? Facebook heeft wel een lijstje. Een overzicht van alle Joden of moslims? Zo gepiept.
Na eerst 'Web 2.0' mogelijk te hebben gemaakt, bouwt Facebook nu de infrastructuur voor 'Segregatie 2.0'. Tja... Wat zou er mis kunnen gaan?
Deze blogpost verscheen eerder op 16 juni 2016 als opinie in de Volkskrant.
Wim ten brink
Wat kan er mis gaan? Ik denk dan aan Target die ooit reclame voor zwangerschaps-producten toestuurde naar een jonge vrouw die nog bij haar ouders woonde. Zie ook http://www.dailymail.co.uk/news/article-2102859/How-Target-knows-shoppers-pregnant–figured-teen-father-did.html
Vader natuurlijk boos, want dochter zat nog gewoon op school dus hoe kwamen ze erbij om te denken dat zijn dochter ook maar iets van die zwangerschaps-producten nodig had? Zelfs de manager wist van niets. Maar het algoritme dat Target gebruikte had het bij het rechte eind! Kort erna bleek de dochter inderdaad zwanger!
En dat is wat er mis kan gaan! Dergelijke profilering maakt jonge meisjes zwanger!
Oh, nee. Toch niet. 🙂 Het betekent dat de computer kan voorspellen wat er met sommige mensen aan de hand is. Nu al wordt gekeken of er door middel van algoritmes zelfs medische diagnoses gedaan kunnen worden door te analyseren waar mensen naar zoeken en over praten! Dat betekent dat Google of Facebook een melding kunnen sturen naar mensen met de waarschuwing: “Op basis van uw zoekgedrag en de onderwerpen waar U over praat vermoeden wij dat U prostaatkanker heeft. Gelieve z.s.m. Uw huisarts bezoeken.”
En dat is interessant indien al deze voorspellingen ook correct zijn! Alleen heel vervelend als ze het mis hebben. Dan krijg je dus dat mensen in de verkeerde groep zijn ingedeeld wegens fouten in de profilering.
Profilering heeft voordelen en nadelen. We weten alleen niet of de voordelen opwegen tegen de nadelen. Wel besef ik dat als Facebook al bestond voor de Tweede Wereldoorlog, dat de Duitsers dan fors meer slachtoffers gemaakt zouden hebben. Maar diezelfde profilering zorgt er ook voor dat politie en Geheime Diensten online kunnen zoeken naar potentiele terroristen en zo aanslagen kunnen voorkomen.
Dus ja. Het blijft een grijs gebied en het hangt af van hoe de profilering uiteindelijk wordt toegepast. Het doel ervan bepaalt uiteindelijk of we het moeten willen of niet…
Stallieman
Dé nationale denkfout! Alsof het opgeven van het recht op privacy ook maar enig effect heeft terreurbestrijding. Terreur doet wat het wil, privacy of geen privacy.
Stallieman
Dé nationale denkfout! Alsof het opgeven van het recht op privacy ook maar enig effect heeft op terreurbestrijding. Terreur doet wat het wil, privacy of geen privacy.
Peter
Zo, dat was snel. Al in de eerste post een Godwinnetje 😉
Maar, dat is natuurlijk ook een beetje een de kat op het spek binden met de laatste zin de blog….
Hans de Zwart
Dank voor je reactie Wim. Volgens mij moeten we niet vergeten dat technologie ook altijd politiek is. De technologische keuzes die je maakt zijn politieke keuzes. Wij maken ons zorgen over de keuzes die Facebook maakt en de mogelijkheden die zij hebben.
Hans de Zwart
Wim ten brink
Wat we eigenlijk vergeten is dat veel terroristen en wannabee-terroristen dezelfde sociale media gebruiken als wat wij allemaal doen. En dat maakt een medium als Facebook juist zo praktisch om dergelijke terroristen op te sporen en aanslagen te voorkomen. Het is ook niet zo dat we verplicht zijn om onze privacy op te geven want we zijn al dom genoeg om dit uit onszelf te doen.
Terreurbestrijding zou veel moeilijker worden indien terroristen het Internet en mobiele netwerk niet zouden gebruiken. Maar dan is communicatie tussen terroristen ook lastiger en hebben de terrotristen juist een sterkere band met elkaar die door opsporings-instanties gevolgd kan worden om alle leden te vinden.
En ja, je maakt je terecht zorgen om de keuzes die Facebook maakt. Maar Facebook kan die keuzes maken simpelweg omdat wij ze zelf die macht geven. Die macht die wij hen geven is van waarde en zonder die macht zou Facebook er vast de stekker uit trekken omdat het dan onrendabel wordt.
Wat zouden we doen als Facebook niet meer bestond? Dat maakt communicatie tussen mensen een stuk lastiger. Je krijgt dan waarschijnlijk een toename van blogs omdat iedereen toch nog steeds online wil blijven melden wat ze eten en wanneer ze poepen, want dat doen ze nu ook al via Facebook en Twitter. En hoeveel reacties en bezoekers krijgen die bloggers dan? Denk dat ze blij mogen zijn met 5 mensen die hun blog bezoeken. (Vader, moeder, partner en nog eens twee personen.) Je krijgt dan niet de dynamiek die Facebook heeft met de vele discussies en groepen.
Zoals nu de Brexit. De uitslag is net bekend en men begint al massaal erover te discussieren op Facebook. En die discussie zal nog wel een tijdje blijven doorgaan. In dat opzicht biedt Facebook iets wat we eigenlijk best waardevol vinden.
En dat heeft een prijs. Het is nog net niet dat je je Ziel aan de Duivel verkoopt maar komt er wel dicht bij in de buurt. Facebook verdient geld met advertenties en om betere advertenties te bieden en dus een beter platform voor adverteerders te zijn zal Facebook de bezoekers proberen te profileren. Kortom, Facebook wil informatie hebben over de bezoekers zodat advertenties aan bezoekers aangepast kunnen worden.
Het alternatief? Tja, https://ello.co schijnt niet aan profilering te doen en bevat geen advertenties voor zover ik weet. En het is gratis. Maar het is nog steeds niet erg succesvol en van wat ik er soms zie is het ook niet erg geschikt voor jeugdigen. Het begint meer een soort Pinterest of Instagram te worden waarbij de leden plaatjes posten met een beetje tekst erbij om likes en volgers te verzamelen. Dus waarom wordt Ello niet succesvoller dan het nu is?
Tja, da’s het financiele plaatje. Daar waar Facebook wordt betaald door adverteerders die merken dat hun advertenties bij de juiste doelgroepen komen is Ello 100% afhankelijk van investeerders en het online verkopen van merchandise. En er is nauwelijks informatie op Ello te vinden over de leden, geen contact-mogelijkheden om prive-berichtjes uit te wisselen, geen groepen voor bepaalde onderwerpen maar eigenlijk alleen veel plaatjes, waaronder een beetje naakt.Voor bedrijven totaal niet interessant omdat ze geen band kunnen krijgen met hun klanten op Ello. En daarnaast de best wel slechte performance van de site.
Wat Ello aantoont is dat de formule die Facebook nu gebruikt het bedrijf ook zo enorm succesvol maakt. En dat hebben wij nodig als we Facebook willen blijven gebruiken. Dus we geven onze privacy op om Facebook te gebruiken. En dat is het probleem! We zijn te tolerant richting Facebook omdat we eigenlijk niet zonder kunnen…
Nu eerst een nicotinepleister uitvinden die de Facebook-verslaving stopt… 😉
Wim ten brink
Meh. De laatste zin in de post vroeg er ook duidelijk om! 😀
Hans de Zwart
Misschien vind het het leuk om wat video’s van Aral Balkan te bekijken. Bijvoorbeeld deze: https://ind.ie/beyond-the-clouds/
Eelco
“Há, een Godwin!” roepen is altijd een goed excuus om vervolgens opgeruimd over te gaan tot de orde van de dag, als je de recente geschiedenis te leerrijk vindt.
interesto
Dit is toch gewoon A/B testing? Heeft niets met segregatie of discriminatie te maken. De duitsers, turken en de ruwandesen waren prima in staat zonder ‘profiling’ hun doelgroep er uit te halen en te elimineren.
Je kan FB niet verwijten om hun unieke marketingpositie, namelijk een pot klanten dbase gebruiken om gericht te adverteren.
Je hangt toch ook geen poster voor gymschoenen in een bejaarenhuis en je geeft ook geen demo voor een rollator op een lagere school.
Hans de Zwart
Dank voor je reactie!
Vanuit mijn perspectief is dit niet gewoon A/B testen. Meestal doe je dat door meerdere versies van de content te maken en die aan willekeurige groepen A en B te sturen. In dit geval maak je de aanname dat een witte groep andere content wilt zien, dan een zwarte groep.
We kunnen inderdaad Facebook niet verwijten dat ze hun data gebruiken. Ik heb meer verwijten voor het feit dat het data verzamelen en het gebruik van Facebook maar matig gereguleerd wordt en aan onszelf omdat wij die data zonder te knipperen aan Facebook geven.
Mijn punt is vooral dat we ons er niet bewust van zijn dat er nu een paar bedrijven zijn die van miljarden mensen profielen kunnen maken en dat die profielen heel gevoelig kunnen zijn.
Johan Gerard van der Galien
Profilering leidt tot polarisatie en niet tot verbroedering, is een vorm van segregatie.
Igor
Net vers in mijn inbox: “Tool scans Facebook to work out if tenants are good for their rent”
http://www.springwise.com/tool-scans-facebook-work-tenants-good-rent
Lijkt mij dat alleen desperate huiszoekers hieraan mee zouden willen werken – juist het soort dat ze proberen eg te filteren.
Eward Bartlema
Interessante en urgente discussie Hans! Deed me gelijk denken aan de A.I. Twitter chatbot van Microsoft die binnen enkele uren ‘al lerend’ nazi-sympathieën kreeg en een Trump supporter werd:
https://www.theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter
Dat onderschrijft maar weer eens de noodzaak van goede protocollen bij het ontwikkelen van algoritmes.
Pocahontas
Volgens mij is Mark Rutte ook een AI bot.
Maar dat terzijde. Enig idee of Nederland net als Belgie Facebook gaat aanklageben ivm schending van de grondwet?
De Belgen verloren overigens het process, dus Facebook mag nu legaal doorgaan met het schenden van de Belgishe grondwet!
Hoe kan zoiets?
Nanne de Jong
Dag Wim, ik heb eennperiode gehad dat ik voor mijn werk informatie moest zoeken over hulpmiddelen voor gehandicapten. Hoe beïnvloed dat mijn profiel? De laatste tijd houdt ik mij bezig met de wet op de lijkbezorging 🙂 ga ik nu allerlei informatie krijgen over …