Ons recente onderzoek naar online platformen laat zien dat platformen zich schuldig maken aan het beïnvloeden van jouw keuzes. Als gebruiker word je naar bepaalde handelingen gestuurd, die niet in jouw belang zijn, maar die het platform wél wat opleveren. En dat mag wettelijk gezien helemaal niet.

Wanneer je websites of apps gebruikt, maak je als gebruiker constant keuzes. Je klikt op content of informatie om te bekijken, selecteert gewenste opties en voert acties uit. Je verwacht dat de keuzes die je maakt, vrije keuzes zijn: je bent naar waarheid geïnformeerd en de keuzes sluiten aan bij jouw doel. Helaas blijkt dat in de praktijk niet zo te zijn. Je wordt regelmatig beïnvloed door het ontwerp van platformen.

Het onderzoek

Door concrete vormen van manipulatief ontwerp aan te tonen, kunnen toezichthouders gerichter handhaven op mogelijke overtredingen door platformen. Daarom hebben we een verkenningsonderzoek uitgevoerd, waarin vormen van manipulatief ontwerp zijn gedefinieerd en gesignaleerd op een selectie van grote online platformen: Snapchat, Facebook, TikTok, Shein, Zalando en Booking.com.

In het onderzoek worden twee vormen van manipulatief ontwerp uiteengezet. Enerzijds gaat het om misleidende technieken, die de gebruiker om de tuin leiden en keuzes laten maken die de gebruiker niet bedoeld had te maken (zogenoemde deceptive patterns). Anderzijds gaat het om technieken die de aandacht van gebruikers trekken en vasthouden, waardoor zij langer en vaker op het platform zijn dan bedoeld (zogenoemde attention capturing damaging patterns).

Bevindingen

De zes onderzochte platformen zitten boordevol vormen van manipulatief ontwerp. Een greep uit de belangrijkste bevindingen:

• Bijna alle soorten notificaties staan standaard aangevinkt op de onderzochte sociale media platformen. Het vergt voor jou als gebruiker veel aandacht om te kiezen welke notificaties je wel of niet wilt ontvangen; dit staat niet goed uitgelegd en het aantal keuzes is overweldigend.
• Op Snapchat en Facebook verschijnen er constant rode badges (rood bolletje, al dan niet met cijfer) binnen het platform, die de aandacht trekken. Normaliter suggereert de badge dat er een nieuwe interactie met de gebruiker is, maar het wordt nu ook vaak ingezet om aan te geven dat er nieuwe content is (zoals video's of opmerkingen waar de gebruiker nog geen interactie mee heeft gehad).
• Bij cookie banners op de verschillende platformen wordt vaak gestuurd op de keuze om alle cookies te accepteren. Enerzijds door deze keuze visueel op te laten vallen, anderzijds door tekst die beargumenteert waarom men dat zou moeten doen. Er is minder aandacht voor privacy-overwegingen.
• Er wordt vaak gebruik gemaakt van een voorselectie, waardoor de kans groter is dat je als gebruiker onbewust akkoord gaat met een instelling die al was voorgeselecteerd. Bij het aanmaken van een account op Snapchat worden bijvoorbeeld vriendensuggesties gedaan die voorgeselecteerd zijn. Het risico hierbij is dat je ongewenst of ongemerkt in contact komt en content deelt met gebruikers die je niet kent. En wanneer je informatie aan je Facebook-account toevoegt, staat de instelling standaard (klein in het grijs) op 'openbaar'.
• De volgorde van content op sociale media platformen (waaronder opmerkingen) komt automatisch tot stand door middel van profilerende aanbevelingssystemen. Gebruikersgegevens en interacties worden gebruikt om te voorspellen in wat voor content men geïnteresseerd is. Wettelijk gezien moet er een non-profilerend alternatief aanwezig zijn dat rechtstreeks toegankelijk is - en dus geselecteerd moet kunnen worden - vanaf dezelfde plek waar men de gerangschikte content ziet. Bij de onderzochte sociale media platformen zijn deze alternatieven echter niet direct vindbaar en bij Facebook kun je een alternatief zelfs niet instellen als standaard.
• Op Snapchat krijgt men veel zogenoemde fake friend notifications. Het lijkt alsof je bericht krijgt van je vrienden of personen die je volgt, maar eigenlijk wordt dit door het platform zelf gegenereerd. Vaak gaat dit om nieuwe content die beschikbaar is of aanbevolen content.
• Op Snapchat wordt veel gebruik gemaakt van game-elementen en patronen die sociale druk veroorzaken (snap streaks met vrienden, de snapscore, een aangewezen vriendschapsniveau, het delen van je locatie met vrienden).
• Op Facebook is het een uiterst complexe opgave om je gebruikersaccount te verwijderen.
• In vergelijking met de andere onderzochte e-commerce platformen, maakt Shein duidelijk meer gebruik van deceptive patterns, denk aan: het inzetten van aftelklokken die doen lijken alsof een bepaalde aanbieding nog maar beperkt geldig is of taalgebruik dat suggereert dat er nog maar weinig producten beschikbaar zijn en je dus snel moet handelen.

Vervolg

Een aantal bevindingen gaan we verder onderzoeken met gebruikers. Het doel hiervan is om specifieker aan te tonen welke invloed het manipulatieve ontwerp heeft op hun ervaringen en gedrag. Aan de hand daarvan kunnen we klachten beter onderbouwen, wat concrete handhavingsacties door toezichthouders stimuleert. Je kunt als gebruiker zelf ook in actie komen: indien je het gevoel hebt dat je wordt gemanipuleerd, kun je een klacht indienen bij het desbetreffende platform of bij de Autoriteit Consument & Markt (ACM).

Lees hier het volledige rapportHet Verkenningsonderzoek Manipulatief Ontwerp.