Wat voor technieken zetten grote online platformen, zoals Facebook, TikTok, Zalando en Booking.com, in om gebruikers te beïnvloeden in de keuzes die zij maken? Bits of Freedom publiceert vandaag een onderzoek naar de verschillende vormen van manipulatief ontwerp op zes platformen. Hieruit blijkt dat gebruikers volop naar een bepaalde handeling worden gestuurd, wat vooral in het voordeel van het desbetreffende platform werkt. Dit zit de keuzevrijheid van gebruikers in de weg.

"Wanneer je websites of apps gebruikt, maak je als gebruiker constant keuzes," licht Chitra Mohanlal (tech onderzoeker Bits of Freedom) toe. "Je klikt op content of informatie om te bekijken, selecteert gewenste opties en voert acties uit. Je verwacht dat de keuzes die je maakt, vrije keuzes zijn: je bent naar waarheid geïnformeerd en de keuzes sluiten aan bij jouw doel. Ons onderzoek toont echter aan dat platformen zich schuldig maken aan het beïnvloeden van die keuzes. En dat mag wettelijk gezien helemaal niet."

Het onderzoek

Door concrete vormen van manipulatief ontwerp aan te tonen, kunnen toezichthouders gerichter handhaven op mogelijke overtredingen door platformen. Daarom heeft Bits Of Freedom een verkenningsonderzoek uitgevoerd, waarin vormen van manipulatief ontwerp zijn gedefinieerd en gesignaleerd op een selectie van grote online platformen: Snapchat, Facebook, TikTok, Shein, Zalando en Booking.com.

In het onderzoek worden twee vormen van manipulatief ontwerp uiteengezet. Enerzijds gaat het om misleidende technieken, die de gebruiker om de tuin leiden en bepaalde keuzes laten maken. Anderzijds gaat het om technieken die de aandacht van gebruikers trekken en vasthouden, waardoor zij langer en vaker op het platform zijn dan bedoeld.

Bevindingen

Een van de bevindingen gaat over de notificaties die standaard aan staan op de onderzochte sociale media platformen. "Waar je een aantal jaar geleden op deze platformen alleen notificaties ontving als er een interactie had plaatsgevonden of als er een actie vereist was, word je als gebruiker nu overladen met allerlei suggesties en updates," vertelt Mohanlal. "Dit zijn allemaal lokkertjes om je terug te leiden naar het desbetreffende platform. Soms lijken de notificaties zelfs van een andere gebruiker te komen, terwijl ze in werkelijkheid worden verstuurd door het platform zelf. Bovendien vergt het voor gebruikers veel aandacht en tijd om te kiezen welke notificaties men wel en niet wil ontvangen, door het overweldigende aantal keuzes."

Ook valt op dat platformen veel gebruikmaken van voorgeselecteerde keuzes. "Die zorgen ervoor dat gebruikers worden gestuurd op een bepaalde keuze of ongezien akkoord gaan," aldus Mohanlal. "Bij Snapchat blijkt dat zelfs wanneer je de app geen toegang geeft tot je contacten, het platform andere gebruikers selecteert om toe te voegen als vriend. Een ander voorbeeld is te vinden op Facebook: wanneer je informatie toevoegt aan je profiel, staat dit standaard op 'openbaar'."

Een andere bevinding is dat er standaard profilerende aanbevelingssystemen worden gebruikt om de volgorde van content op sociale media platformen (waaronder ook opmerkingen) te bepalen. Dit betekent dat gebruikersgegevens en interacties worden ingezet om te voorspellen in wat voor content men is geïnteresseerd. Wettelijk gezien moet er een non-profilerend alternatief aanwezig zijn dat rechtstreeks toegankelijk is - en dus geselecteerd moet kunnen worden - vanaf dezelfde plek waar men de gerangschikte content ziet.  "Bij alle onderzochte platformen zijn deze alternatieven echter niet direct vindbaar en bij Facebook kun je een alternatief zelfs niet instellen als standaard."

Maar daar blijft het niet bij. Mohanlal: "Andere manipulatieve technieken zijn gevonden in cookiebanners, waarbij gebruikers tekstueel en visueel worden gestuurd op het accepteren van alle cookies. Verder worden er spelelementen ingezet binnen Snapchat, die inspelen op competitie en sociale druk. Op Facebook blijkt het verwijderen van je account een complexe zoektocht. En op Shein en Booking.com worden veel technieken gebruikt die een gevoel van urgentie en schaarste benadrukken. Kortom: een breed scala aan trucs die keuzevrijheid in de weg zitten."

Vervolg

Een aantal bevindingen worden verder onderzocht met gebruikers. Het doel hiervan is om specifieker aan te tonen welke invloed het manipulatieve ontwerp heeft op hun ervaringen en gedrag. Aan de hand daarvan kunnen klachten beter worden onderbouwd, wat leidt tot concrete handhavingsacties door toezichthouders. Naast het indienen van klachten bij toezichthouders, gebruikt Bits of Freedom de resultaten ook om campagnes vorm te geven die gebruikers van online platformen bewustmaken over concrete vormen van manipulatief ontwerp. Je kunt als gebruiker zelf ook in actie komen: indien je het gevoel hebt dat je wordt gemanipuleerd, kun je een klacht indienen bij het desbetreffende platform of bij de Autoriteit Consument & Markt (ACM).

Lees hier het volledige rapport.

------------

Noot voor de redactie, niet ter publicatie: wilt u meer weten naar aanleiding van dit rapport? Neem contact op met Maartje Knaap, via maartje@bitsoffreedom.nl.