Privacyzorgen over big data-toepassingen bij de overheid
![Podcast zoekt communicatieheld [vacature] – Gesloten](https://www.bitsoffreedom.nl/wp-content/themes/bitsoffreedom/assets/images/svg/icon-arrow-right-black.svg){kind=icon}
Ruim een jaar geleden verzonden we met 32 partijen een oproep aan de minister van Veiligheid en Justitie, Ard van der Steur, waarin we hem opriepen een fundamentele visie te ontwikkelen rondom het thema privacy in de verhouding tussen overheid en burger. Met een kleine delegatie werden we toen uitgenodigd om meer uitleg te komen geven. Dat gesprek krijgt heel binnenkort een vervolg.
Naar aanleiding van het WRR-rapport “Big Data in een vrije en veilige samenleving” zijn we deze keer uitgenodigd om op maandag 22 augustus met een kleine groep in gesprek te gaan met de minister van Veiligheid en Justitie én met minister Stef Blok als waarnemer voor zijn collega van Binnenlandse Zaken, Ronald Plasterk.
Tijdens dat gesprek willen we er kort samengevat op wijzen dat de rechtsbescherming van de burger niet ondergeschikt mag worden gemaakt aan efficiencywinsten die de overheid met big data-toepassingen hoopt te behalen. In een brief aan de ministers hebben we de punten van zorg van de gespreksdeelnemers verder uitgewerkt. Dit zijn ze in een notendop:
- Ongerichte surveillance en gebrek aan doelbinding – belangrijke uitgangspunten van de rechtsstaat worden hierdoor losgelaten.
- Ontbreken van noodzaak – de overheid kan door de ontwikkeling van technologische mogelijkheden niet ontslagen worden van haar plicht tot het aantonen van de noodzaak van iedere inbreuk op de privacy van de burger.
- Schadelijke effecten binnen een democratische rechtsstaat:
- Vrije meningsuiting en zelfcensuur – burgers passen vaker zelfcensuur toe en de controlerende rol van de media op de staat komt in het geding.
- Verstoring relatie tussen overheid en burger – door de toenemende asymmetrie in de informatiepositie van de overheid aan de ene kant en burgers aan de anderen kant.
- Individuele rechtsbescherming in het gedrang – de burger zal straks moeten bewijzen ten onrechte met een profiel te zijn geassocieerd, in plaats van omgekeerd.
- Vals positieven – juist in de publieke context zijn vals positieven maatschappelijk slecht te legitimeren.
- Institutionele vooroordelen – datasets worden samengesteld door mensen met hun menselijke vooringenomenheid. In ‘machine learning’ omgevingen met de bijbehorende ‘feedback loops’, worden discriminatieproblemen cumulatief versterkt.
- Vertrouwen in digitale communicatie wordt aangetast – als burgers de digitale infrastructuur niet meer kunnen vertrouwen, richt dat maatschappelijke schade aan.
Ook dit keer hebben we ons best gedaan om een brede afvaardiging samen te
stellen. We zijn blij dat de deelnemers aan het gesprek zijn:
- Thomas Bruning (Nederlandse Vereniging voor Journalisten – NVJ);
- Brendan Newitt (Nederlandse Vereniging voor Strafrechtadvocaten – NVSA);
- Jelle Klaas (PILP/NJCM – Nederlands Juristen Comité voor de Mensenrechten)type;
- Alexander Blom (Internet Society Nederland – ISOC);
- Vincent Böhre (Privacy First);
- Jaap-Henk Hoepman (Wetenschappelijk directeur Privacy & Identity Lab en Universitair hoofddocent computersecurity, privacy en identitymanagement aan de Radboud Universiteit); en
- Hans de Zwart en ikzelf van Bits of Freedom.
We zijn benieuwd naar jouw ideeën. Wat zou jouw belangrijkste suggestie voor de bewindslieden zijn? Zet die hieronder in de reacties! (Tip. Er is ook een samenvatting van het WRR-rapport.)
Vanzelfsprekend zullen we je op de hoogte houden van het verloop van het gesprek en na afloop een verslag op de site zetten.
Jan Schrijver
Wat is er toch gebeurd met het idee van de Digitale Kluis (prof Ig Snellen, 2001)? Ik hoor er nooit meer over. Het zou voor persoonsgegevens, elektronisch patientendossier, een uitkomst zijn als gegevens decentraal, bij de burger bewaard zouden worden en als de burger er ook mede zeggnschap over zou krijgen, d.w.z. aan de bel trekken als er iets niet klopt.
Daphne van der Kroft
Dat is deels opgenomen in iDensys (wat hiervoor het eID heette). Het is nu nog in een pilotfase. Zonder hier in te gaan op de haken en ogen van dat project, vind je meer op: https://www.idensys.nl/
Klaske
Graag wat meer transparantie over de rol die de it-bedrijven spelen in de overheid. Hoe zit het met dubbele petten? Belangenverstrengeling?
Wie geeft de doorslag bij beslissingen? Hebben ambtenaren wel voldoende kennis? Bedrijven maken geen deel uit van ons democratisch stelsel; burgers hebben geen invloed op bedrijven, maar wel op de overheid (parlement, politieke partijen). Hoe machtiger de bedrijven, des te machtelozer de burger? Ziet de overheid het als taak om de burger te beschermen? Nu lijkt eerder het tegenovergestelde het geval: een wildgroei aan data-plukkers en niemand die er iets tegen doet.
Daphne van der Kroft
Goed punt, Klaske. Als het tijdens het gesprek aan de orde komt, zullen we het ook opnemen in ons verslag dat we daarna online zullen zetten.
Peter
De punten genoemd onder de schadelijke effecten lijken voornamelijk geschreven vanuit het perspectief van de burger. Hoewel een goede overheid zich dit zeer zou moeten aantrekken, ontbreekt er nog steeds een totaalvisie op privacy bij de overheid. Er is bijvoorbeeld sprake van aanzienlijke ‘market failure’, waardoor burgers geen echte keuze meer kunnen maken inzake privacy. In het verlengde hiervan speelt de discussie dat privacy niet gezien moet worden als een overeenkomst tussen twee partijen (gebruiker-verwerker/overheid/bedrijf), maar als ecologisch probleem. Bij market failure zou de overheid moeten optreden, dat gebeurd nu niet (merkbaar). In dat licht zou het misschien helpen om ook de nadelige effecten van het onjuist/oneigenlijk toepassen van big data bij de overheid zelf te benadrukken, voordat ze gewezen worden op de nadelige effecten bij burgers/maatschappij.
Daarnaast zijn er reeds een aantal zeer goede reactie geschreven bij het artikel van 5 mei 2016. Vooral de bottom-line van Bas (“used based regulation is too little too late”) spreekt mij erg aan.
Big data wordt gezien als het ‘nieuwe goud’, daarom zou ook gewezen kunnen worden op de tegenhanger ‘Data Is a Toxic Asset’ (Schneier) om het geheel meer in evenwicht te brengen. Ik ben bijvoorbeeld benieuwd of er berekeningen zijn gemaakt door de overheid van de maatschappelijke kosten van het lekken van data. Want dat er data gaat lekken is zeker, enige vraag is wanneer.
Daphne van der Kroft
Ha Peter,
Dank voor je opmerkingen, heel waardevol. Het is dat het stuk anders te lang werd, maar we hebben een tijd overwogen om de vergelijking met big data als ‘het nieuwe goud’ of als ‘de nieuwe olie’ expliciet in de brief op te nemen 🙂 Misschien komt het nog terug in het gesprek.
Mocht je overigens nog interessante stukken tegenkomen over die market failure, zou je ons die dan willen tippen? (In de reacties op het blog, via twitter, mail, wat voor jou het beste werkt.) Het is een onderwerp waar we al langer mee bezig zijn, en graag meer over lezen!
Peter
Hoi Daphne, dank voor je reactie. Ben heel benieuwd naar de uitkomst van het gesprek.
Onderstaand probeer ik de theorie/opvattingen rondom ‘market failure’, the ‘Market for Lemons’, opvattingen van techniekfilosoof Esther Keymolen, mededingingsrecht en een meer activitischere houding met elkaar te verbinden. Hopelijk is het gepast om zo’n lange reactie te plaatsen? Mocht ik nog meer interessante links vinden, dan zal ik alleen de betreffende links plaatsen met een korte toelichting.
Met dank aan jullie blog van 21 december 2015 ben ik gewezen op de presentatie van Katharina Nocun (“Conditions for a Successful Market Entry of Decentralized Social Networks”). Deze presentatie was hetgeen mij definitief deed beseffen dat er inderdaad sprake is van een aanzienlijke market failure met als gevolg monopolistische gated communities (zoals Facebook), die in het begin net doen alsof ze open zijn (ondersteuning van open protocollen) enkel en alleen om een kritische massa te bereiken. Nadat deze kritische massa is bereikt, sluiten ze de deuren en trekken dus ondersteuning voor open protocollen in. Vervolgens passen ze langzaam maar zeker de algemene (privacy)voorwaarden aan.
Maar waarom switchen mensen dan niet naar een ander open netwerk (zoals Diaspora)? Ten eerste omdat er sprake is van het netwerk-effect (je bestaande vrienden zitten zijn niet bereikbaar op het nieuwe netwerk) en ten tweede omdat DE unieke reden om een open netwerk te gebruiken (open, vrijheid, respect voor privacy) niet zichtbaar is voor gebruikers. De concurrent (zoals bijvoorbeeld Facebook), die deze unieke aspecten nooit kan en zal willen aanbieden, zal dit dus bewust zeer vaag en onduidelijk proberen te houden. Op het moment dat het voor gebruikers niet meer duidelijk is welk product (in dit geval sociaal netwerk) wel of niet goed is (inzake privacy), heb je te maken met de problematiek van “The Market for Lemons: Quality Uncertainty and the Market Mechanism (George Akerlof)”. Omdat er geen onderscheid meer gemaakt kan worden tussen goede en slechte sociale netwerken gaan gebruikers er vanuit dat alle sociale netwerken slecht zijn (…het heeft toch geen zin, privacy is over….), wat vervolgens leidt tot een neerwaartse spiraal en de goede netwerken uit de markt drukt.
Op dit aspect (informatie-asymmetrie) heeft de overheid gelukkig al getracht in te grijpen. Facebook, Google, etc. moeten duidelijker communiceren over de algemene (privacy)voorwaarden. Toch is dit niet voldoende. De meeste gebruikers kijken alleen of iets wel of niet werkt (zie artikel van Maurits Martijn “Waarom we Facebook toch vertrouwen, tegen beter weten in” op de Correspondent waarin hij techniekfilosoof Esther Keymolen interviewt) en kunnen andere, lastigere aspecten zoals privacy niet meenemen in hun beoordeling.
Verder zou je ook nog een link kunnen maken met de economische theorie rondom agent-principal (“Theory of the Firm: Managerial Behavior, Agency Costs and Ownership Structure” (Jensen, Meckling, 1976). Hier is ook sprake van oplossen van informatie-asymmetrie (en tegengestelde belangen).
Naast het consistent blijven werken aan, gebruiken van en promoten van vrije diensten (dus NIET Signal!) is verder overheidsingrijpen helaas noodzakelijk. Langzamerhand begint dit besef wel door te dringen bij overheden. Waar in het verleden dit soort bedrijven aangepakt werden via privacy-wetgeving, wordt nu vaker gekozen voor mededingingsrecht. Zie bijvoorbeeld de casus van de Duitsland tegen Facebook (“Bundeskartellamt initiates proceeding against Facebook on suspicion of having abused its market power by infringing data protection rules”).
Hoewel goede samenwerking tussen BOF en de overheid altijd voorrang zou moeten hebben, geldt dit volgens mij niet ten aanzien van de relatie met monopolistische bedrijven. Deze luisteren beter indien ze een bedreiging voor hun positie zien. Met andere woorden: werk als BOF ook zoveel mogelijk samen met advocatenkantoren om succesvol rechtzaken te beginnen. Je hoeft niet groot te zijn om wel een groot verschil te maken, zie de casus van Max Schrems, maar ook uit het nieuws van vandaag “Privacytoezichthouder moet onderzoek doen naar anoniem reizen met korting (Tweakers.net)”.
Ten aanzien van big data kan er nog verwezen worden naar het rapport “Big Data and Privacy: a Technological Perspective”: “Again, the primary burden must fall on the commercial user of big data and not the consumer”, hoewel ik niet geheel eens ben met alle aanbevelingen in dit rapport, maar zeker de oproep steun dat meer wetgeving nodig is op dit aspect.
En als afsluiting mijn complimenten voor de brief aan de ministers. Vooral de paragraaf “Ontbreken van noodzaak” is zeer goed en duidelijk!
Links:
https://media.ccc.de/v/32c3-7403-a_new_kid_on_the_block#video&t=3778
https://decorrespondent.nl/4996/Waarom-we-Facebook-toch-vertrouwen-tegen-beter-weten-in/153656976-4a9de1f4
http://www.econ.yale.edu/~dirkb/teach/pdf/akerlof/themarketforlemons.pdf
http://www.bundeskartellamt.de/SharedDocs/Meldung/EN/Pressemitteilungen/2016/02_03_2016_Facebook.html?nn=3591568
http://www.sfu.ca/~wainwrig/Econ400/jensen-meckling.pdf
https://tweakers.net/nieuws/114711/privacytoezichthouder-moet-onderzoek-doen-naar-anoniem-reizen-met-korting.html
https://www.whitehouse.gov/sites/default/files/microsites/ostp/PCAST/pcast_big_data_and_privacy_-_may_2014.pdf
Marien
De al genoemde punten van omkering van bewijslast en vals positieven vind ik erg belangrijk. Ook de rol (c.q. macht) van IT-bedrijven die Klaske noemt, is van groot belang. Daarnaast zou ik, concreet vanuit het perspectief van een burger die contact heeft met de overheid, een paar punten willen toevoegen. Te allen tijde moet er de mogelijkheid blijven om op papier te communiceren, naar beide zijden. Dus tenminste een opt-out. (Bij de Belastingdienst kan dan nu al niet meer – schandalig!) Bovendien moet er altijd een mogelijkheid zijn om in levenden lijve met een ambtenaar te communiceren. Waarbij dan die ambtenaar effectief in staat moet zijn om de gegevens van de burger in te zien en zonodig aan te passen. Tenslotte een ernstige aanbeveling voor de overheid: zorg AUB & ASAP dat u ZELF de nodige IT-kennis en menskracht in huis hebt. Dat kan bv. voorkomen dat er weer 1-5 miljard per jaar in mislukte IT-projecten verdwijnt.
GS
Beste Daphne,
Complimenten voor de samenvatting van de punten die je noemt. Eigenlijk zijn de punten die ik in gedachten heb allemaal al in de kernbeginselen genoemd en zijn het alleen andere argumentaties. Niettemin komen ze misschien ooit nog eens van pas, dus ik wil ze hier toch noemen:
– De verschuivende machtsbalans en false positives hangen samen. Zowel uit experimenten (Stanford Prison) als uit de geschiedenis (bijvoorbeeld de inquisitie en de heksenjachten) weten we dat een ongezonde machtsbalans en het daaruit haast automatisch voortvloeiende onrecht zich onder anderen uit in false positives. Welke vorm dat aanneemt kunnen we niet voorspellen, het maatschappelijke weer blijft onvoorspelbaar, het maatschappelijke klimaat echter niet. Is het in deze situatie toeval dat de verviervoudiging van het aantal gevallen van onterechte hechtenis sinds 2004 (https://www.cbs.nl/nl-nl/nieuws/2016/16/meer-schadevergoedingen-naar-ex-verdachten) samenvalt met de toename een bevoegdheden en de afbraak van de rechtsbescherming die de noodzakelijke fail safe vormt?
– Het doel van IS is: Het uitlokken van haat tegen moslims en het uitlokken van surveillance (Met dank aan de analyses van TheIntercept uit IS eigen publicaties, o.a.: https://theintercept.com/2015/11/17/islamic-states-goal-eliminating-the-grayzone-of-coexistence-between-muslims-and-the-west/). Het zou een vergissing zijn om dit als een dwaze gedachte te zien, naar schatting 60% van de IS top bestaat uit de voormalige bestuurlijke en militaire top van Saddam Hoessein, met andere woorden, uit professionals die weten wat ze doen. Het gaat tegen alle strategie in om een plan op te zetten dat past in het plan van de tegenpartij alsof het er voor gemaakt is.
– Alle politieke en maatschappelijke bewegingen en vooruitgang zijn ooit begonnen als verguisde bewegingen, en nagenoeg alle als illegale, ondergrondse bewegingen. Liberalisme, Socialisme, Christendom, Protestantisme, Feminisme, Milieu- en klimaatactivisme, abortus, homorechten, afschaffing slavernij, Gandhi, antidiscriminatie, softdrugs, euthanasie enzovoort. In privacy, ondergronds en tegen de wet in ontstaan, samenvoegen, groeien en zelf je moment bepalen om naar buiten te treden en mensen te overtuigen dat er toch wel wat in zit is een noodzakelijk onderdeel van het proces van volwassen worden van iedere beweging.
– De grondregels voor wetenschap zijn: “Question authority,” “think for yourself,” “question yourself,” “don’t believe anything just because you want to,” “test ideas,” “follow the evidence wherever it leads,” “reserve judgment,” and “remember, you can be wrong.” (Neil de Grasse Tyson, http://www.evolutionnews.org/2014/06/mob_rule_the_fi086551.html). Allemaal grondregels die op gespannen voet staan met de teamrollen (Belbin) van mensen die zich aangetrokken voelen tot politiewerk. Een al te grote nabijheid van Shapers is intimiderend voor mensen met een wetenschappelijke en creatieve mindset. Het is niet vreemd en al helemaal niet verdacht (een refrein dat precies laat zien wat er mis mee is) dat juist uit de wetenschappelijke en creatieve hoek de oudste, grootste en hardnekkigste weerstand tegen de erosie aan privacy en rechtsbescherming komt.
– In de geschiedenis heeft de samenleving waarin de gedachten vrij waren altijd een groot voordeel gehad tegenover de samenleving waarin gedachten onderdrukt werden. Het vrije Athene versloeg de overweldigende meerderheid van de Perzen. De vrije wereld van de tiende-eeuwse kaliefen vestigde een wereldrijk. De vrije gedachten van de renaissance versloegen de inquisitie. Het vrije Engeland versloeg het Frankrijk van Lodewijk XIV en Napoleon, en werd op zijn beurt verslagen door een handvol kolonisten in naam van de vrijheid. Het vrije westen versloeg achtereenvolgens Nazi-Duitsland en Soviet Rusland. Enzovoort.
Ik hoop dat je iets aan deze gedachten hebt.
Vriendelijke groeten,
Thomas
Mooi en belangrijk initiatief. Heel veel succes gewenst! Vergeet niet even kort na te denken over de positie van burgers in extra kwetsbare posities. Niet alleen de “gewone” burger dus, maar (naast advocaten en journalisten) ook burgers die toevallig bestuurder, (lokaal) politicus, activist, systeembeheerder, webmaster, ambtenaar, rechter, arts of docent zijn.
Daphne van der Kroft
Dank je wel Thomas. Jazeker zullen we dat doen. In onze brief refereren we zo bijvoorbeeld specifiek naar de sterkere impact van chilling effects voor kwetsbaarder groepen in de samenleving.
Jan Schrijver
Zijn die haken en ogen van idensys misschien iets om te bespreken?
Klaske
Er is op het ogenblik geen passende wetgeving t.a.v. data-mining en -selling. Je kunt niet van diefstal spreken, dus als een gemeente gegevens koopt van bv. Citytraffic, Wakoopa of Citywireless, is die gemeente geen heler, al lijkt het wel zo. Amsterdam en Groningen gaan deze zomer in zee met een bedrijf dat een app heeft geproduceerd waarmee zij data binnenhalen tijdens festivals. Om ‘geluidsbelevingen te meten’. En de gemeente wil dan haar beleid daarop baseren. Je kunt de app pas openen als je je email adres hebt opgegeven. Uiterst vage privacyvoorwaarden op hun website. En die data gaan naar de overheid. Dit is maar een voorbeeld van de wildgroei op dit moment. Prof. Bert-Jaap Koops is bezig met het uitvinden van een nieuw huisrecht, heel terecht. Mijn vraag: zijn ze op het ministerie ook bezig met een nieuwe wetgeving ter bescherminig van onze privacy? Hoog tijd dat die er komt.
John Doe
Klaske,
Je schrijft “Amsterdam en Groningen gaan deze zomer in zee met een bedrijf dat een app heeft geproduceerd waarmee zij data binnenhalen tijdens festivals. Om ‘geluidsbelevingen te meten’. En de gemeente wil dan haar beleid daarop baseren. Je kunt de app pas openen als je je email adres hebt opgegeven. Uiterst vage privacyvoorwaarden op hun website. En die data gaan naar de overheid. Dit is maar een voorbeeld van de wildgroei op dit moment. ”
Klopt. De mensen bij de overheden die dit soort dingen in huis halen, vinden het niet hip en snel om na te denken over wat voor fuik zoiets is. Zelf vinden ze bovendien dat “ze allerlei privé informatie best mogen delen hoor. Niets mis mee toch? ”
Ik ben nogal principieel en vind dat je je dit soort dingen vooraf moet realiseren. En dat je dan pas moet besluiten of je iets wel of niet doet. Echter uit redelijk wat bedrijfservaring weet ik dat het de laatste jaren niet hip is om rustig te vergaderen over de gevolgen van een ICT-bedenksel. De dames en heren hebben iets gelezen over leuke apps en gaan ze (net als thuis) opgewekt toepassen. Of (erger) ze worden door de aanbieders met opgewekte mailtjes benaderd over hoe goed het wel niet is als ze met die aanbieder in zee gaan. Wat voor prachtige voordelen. En natuurlijk ook suggesties zoals: “als je je mens-stromen niet kent, loop je een risico dat er gevaarlijk gedrang ontstaat en loop je risico”. En dat is iets dat een ambtenaar niet graag doet: eigen verantwoordelijkheid nemen.
Dergelijke aanbieders hebben het beruchte verdienmodel als veel bedrijven, en dat is: “de winst moet na de ontvangst van de opdracht gemaakt worden”. En dat doen ze door de NOG te ontvangen data van de slachtoffers te verkopen.
Dus dan gebeurt inderdaad wat jij zegt. De aanbieder/producent van die “leuke” app wil dat iedereen zijn mail-adres intikt enzovoort. En omdat Google en trawanten steeds meer afdwingt dat je je eigen naam als mail-adres gebruikt (Google heeft in zijn voorwaarden staan dat ze namen gelijk mogen trekken, zulk soort ingrepen zijn dus mogelijk), zogenaamd omdat het zo handig en veilig is — daardoor is je mail-adres een van de vele identificatiemiddelen. Bijna net zo erg als cookies, tracking pixels en code die de opbouw van je PC detecteren (zoals screen settings).
Omdat alles zo stiekem en vanaf een afstandje gebeurt, over dat vreselijke internet, komen ze ermee weg. Want als er een balie zou staan waar mensen staan die de bezoekers zitten te turfen en hun naam vragen, dan zou de wereld te klein zijn! Want dan zou iedereen recht voor zijn eigen ogen zien wat er daadwerkelijk gebeurt.
John Doe
Beste GS,
Ik las even snel je bericht over kernbeginselen.
Ik word er bang van.
Zo ernstig is het.
Gerard Freriks
In de privacy wetgeving, maar ook breed gedragen in de zorg, is er de notie dat data slechts gebruikt mag worden voor het doel waarvoor het verzameld wordt.
Binnen dat doel delen de communicerende, gebruikende, partijen, de impliciete informatie nodig om de data juist en veilig te interpreteren.
Gebruik van data voor andere doeleinden dan het verzameld is zorgt ervoor dat misinterpretaties mogelijk zijn. Dit moet voorkomen worden.
Het principiële argument van Doelbinding wordt terecht als eerste genoemd in het BoF rijtje.
Ik vrees dat de praktiserende pragmatische bewindspersonen niet bevatten wat de consequenties zijn van het je niet houden aan Doelbinding. Het zal uitgebreid moeten worden uitgelegd.
Zonder doelbinding wordt gebruik gemaakt van onjuiste, foutieve, potentieel gevaarlijke interpretaties van de verzamelde gegevens.