De politiek van big data

Foto: de Kanttekening

Met een nipte meerderheid werd de sleepwet bij het referendum op 21 maart weggestemd. Geen ruime overwinning voor de nee-stemmers, maar toch wel een heel mooie uitslag als je bedenkt dat de voorstanders van de nieuwe wet voorspelden dat het een gelopen race was en dat een overweldigende meerderheid van de bevolking ‘ja’ zou stemmen. Het kabinet had de directeuren van veiligheidsdiensten ingevlogen om te vertellen dat de wet een zuiver technische niet-politieke aangelegenheid was, een kwestie van de juiste algoritmen. De ironie wilde overigens dat deze veiligheidsambtenaren hinderlijk voor de voeten werden gelopen door Rutte en Buma die er juist weer politieke show van maakten met heel veel bangmakerij over de gevolgen voor onze veiligheid als de wet zou worden afgewezen.

De discussie lijkt zich vooral toe te spitsen op privacy, maar dat is zeker niet het enige dat op de wet valt aan te merken. Het is een grote misvatting om veiligheidsonderzoek met big data af te doen als neutrale algoritmische rekenkunde. Lang behoorde ook ik tot diegenen die zeiden niets te verbergen te hebben. Ik hoefde dus ook niet bang te zijn als ze mijn gangen zouden nagaan. Maar dat is zoals nu steeds duidelijker wordt, erg naïef gedacht. Uit een onlangs verschenen kritisch rapport van de CTIVD, de toezichthouder op de veiligheidsdiensten, blijkt dat geheime diensten uit verschillende landen steeds vaker samenwerken en gegevens uitwisselen, zonder dat dit proces voldoende wordt gecontroleerd. Minister Ollongren had het rapport al in februari in haar bezit, maar heeft het zo lang mogelijk in haar bureaula laten liggen omdat het oordeel van de CTIVD weleens ongunstig voor de uitkomst van het referendum zou kunnen uitpakken.

Die uitwisseling van data alleen al is een politieke daad. Wat hier in Nederland mag of in elk geval (nog) niet als verdacht wordt aangemerkt, kan in een ander land wel degelijk grote gevolgen hebben voor de persoon in kwestie. Big data-analyse is altijd politiek beladen. Uit onderzoek naar de consequenties van dit soort rekenmethodes blijkt dat de uitkomsten van grootschalige data-analyses over de achtergrond van mensen, een profiel kan opleveren zonder enig inzicht in en controle op de totstandkoming ervan. Dat is zeker het geval als het om onderzoek naar veiligheidsrisico’s gaat. Opeens en op onvoorspelbare wijze kun je tot een risicocategorie behoren. Dat kan ernstige consequenties hebben zoals stigmatisering en uitsluiting. Het zal geen verbazing wekken dat uit datzelfde onderzoek blijkt dat het vooral moslims zijn die als potentieel risicovol worden aangemerkt. Je hoeft dus helemaal niets gedaan te hebben om tot een risicocategorie te worden gerekend.

Dat big data voor zichzelf spreken is dus een domme mythe. Er zal altijd geïnterpreteerd worden. Altijd zijn er politici die op grond van een reeks kenmerken menen iemands risicoprofiel te kennen. Zoals we weten meent Trump dat hij op grond van iemand nationaliteit kan afleiden of die persoon gevaarlijk is. In wezen komen risicoprofielen op basis van algoritmen op precies dezelfde manier tot stand. De bizarre oncontroleerbaarheid van data, zeker als die over landgrenzen reizen, en de manier waarop we zo te maken kunnen krijgen met het politieke beleid van andere landen, bleek onlangs op mijn eigen universiteit, de VU. Wij gebruiken daar Canvas, een softwareprogramma voor het onderwijs. Een collega van mij was in Iran voor zijn werk. Toen hij een klusje wilde doen dat met zijn onderwijs te maken had werd de toegang tot Canvas op internet geblokkeerd omdat hij in een land was dat onder Amerikaans handelsembargo staat. Stond er gewoon bij op het scherm: geen toegang. De VS levert deze software, dus dit land bepaalt kennelijk hoe wij ons werk doen. Het laat niet alleen zien hoe we in toenemende mate naar de pijpen moeten dansen van andere landen, maar vooral ook hoe diep digitalisering ingrijpt in de manier waarop we ons werk doen.

Laat ik nog een voorbeeld geven uit mijn eigen praktijk. Een Rotterdamse politica van Leefbaar Rotterdam die de weg is kwijtgeraakt meende enige tijd geleden dat ik me met onderzoek bezighoud dat gevaarlijk is voor de samenleving. Een niet zo heel belangrijke gebeurtenis omdat haar aantijgingen ten overstaan van de verantwoordelijke Rotterdamse ambtenaren eenvoudig konden worden weerlegd. In mijn geval is dit allemaal niet zo ingrijpend; er zijn mensen die op grond van foute beschuldigingen al jaren in de gevangenis zitten.

Stel dat door een combinatie van allerlei gegevens die op grond van die wet bij elkaar gevoegd mogen worden een risicoprofiel ontstaat dat er toe leidt dat bepaalde bevolkingsgroepen uitgesloten worden van werk, huisvesting, onderwijs, rechtsbijstand en andere noodzakelijke behoeften. En dat allemaal ten behoeve van de veiligheid. Het is helemaal niet onvoorstelbaar dat door foute interpretatie van samengevoegde gegevens onweerlegbare conclusies worden getrokken door politici en beleidsmakers die echt macht hebben.

Big data, algoritmen; veel wetenschappers vinden het allemaal prachtig en fascinerend, een speeltje voor techneuten, maar ze hebben geen enkel oog voor de politieke lading die eraan kleeft. Dat is niet alleen kortzichtig en dom; het is gevaarlijk. We hebben in Nederland een discussie nodig over de politieke consequenties van algoritmische analyses en over de uitsluitingsmechanismen die de steeds verdergaande securitisering van de samenleving met zich meebrengt. Dat is veel urgenter dan de schending van de privacy.

DELEN
Thijl Sunier
Antropoloog. Hoogleraar Islam in Europese Samenlevingen aan de Vrije Universiteit Amsterdam. Voorzitter van de Netherlands Interuniversity School for Islamic Studies.