AI wordt vaak gezien als een neutrale technologie, maar volgens Nadia Benaissa van Bits of Freedom reproduceert het juist de ongelijkheden die al bestaan, zoals discriminerende algoritmen en racistische beelden.

De belofte van Artificial Intelligence (AI) is groot. De tool zou zorgen voor efficiëntere diensten, betere voorspellingen en minder menselijke fouten. Maar volgens Nadia Benaissa is de realiteit een stuk minder rooskleurig. ‘AI wordt gepresenteerd als neutraal en objectief, maar in de praktijk reproduceert het vooral de ongelijkheden die al in onze samenleving bestaan.’

Als voorbeeld noemt ze de bekendste en tevens de beruchtste casus, het toeslagenschandaal. Duizenden ouders — vaak met een migratieachtergrond en/of met een laag inkomen — werden hierdoor onterecht als fraudeur aangemerkt. Volgens Benaissa is de toeslagenaffaire geen incident. ‘Profileringsalgoritmen worden al jaren gebruikt om te voorspellen welke groepen zouden frauderen. Dat is geen neutrale technologie, maar een uiting van een bredere, wantrouwende blik van de overheid.’

De data waarop zulke systemen draaien zijn allesbehalve objectief, vervolgt ze. Politie-algoritmen die voorspellen waar criminaliteit plaatsvindt zijn bijvoorbeeld gebaseerd op historische gegevens. ‘Maar als de politie al jarenlang vooral in bepaalde wijken surveilleert, dan voed je het algoritme met precies die blik. Het systeem voorspelt dan niet de toekomst, maar herhaalt het verleden.’

Opkomst van generatieve AI

Naast deze ‘klassieke’ algoritmen is er de opkomst van generatieve AI: chatbots en beeldgeneratoren die internetdata samenvatten en omzetten in tekst of beeld. Maar ook hier ziet Benaissa grote risico’s.

‘Generatieve AI geeft een antwoord dat klinkt alsof het klopt, maar dat zegt niets over de betrouwbaarheid ervan. Het systeem vat simpelweg samen wat het online vindt. En online staat net zoveel onzin als waarheid.’

Daar komt bij dat deze systemen ontworpen zijn om gebruikers te pleasen. ‘Zeg je: ‘wees kritisch’, dan is ChatGPT, Copilot of een ander AI-programma kritisch. Wil je vooral in je grote gelijk bevestigd worden, dan doet de generatieve AI-tool dat ook. Veel mensen gebruiken generatieve AI nu als persoonlijke psycholoog, maar daaraan kleeft een groot risico, zegt Benaissa. ‘Het is een valse psycholoog. Een AI-chatbox spiegelt niet de werkelijkheid, maar jouw verwachtingen.’

Ook maakt generatieve AI zich schuldig aan cherry picking. De tool zoekt informatie die past bij de vraag, niet per se bij de feiten. ‘Echte wetenschap werkt precies andersom.’

De risico’s blijven niet beperkt tot tekst. Beeldgeneratoren maken het extreem eenvoudig om overtuigende, maar volledig verzonnen beelden te produceren. Politieke partijen gebruiken dat al. ‘De PVV verspreidde niet alleen beelden van Frans Timmermans, maar ook van lieve, witte vrouwen tegenover boze moslimvrouwen. Zulke beelden kun je eenvoudig prompten.’

‘Een ruzie op school kan eindigen in een naaktfoto’

Sommige systemen gaan nog verder. Grok, de AI-tool van X-chef Elon Musk, kan bestaande mensen genereren in bikini of zelfs naakt. De EU wil dat soort toepassingen verbieden in de nieuwe AI‑verordening, een verbod dat er waarschijnlijk komt.’

Maar de technologie is nu al breed beschikbaar. ‘Kinderen gebruiken dit nu ook. Een ruzie op school kan eindigen in een naaktfoto die met AI is gemaakt en rondgaat in de klas. De schade is enorm.’

Ongewenste personen

Kun je AI-fotomanipulaties vergelijken het met damnatio memoriae, de Romeinse praktijk waarbij ongewenste personen uit de geschiedenis werden gewist? Of met hoe de communistische leider Stalin politieke tegenstanders uit historische foto’s verwijderde? ‘Er is een groot verschil met toen. Toen was het de staat, nu kan iedereen dit doen, zonder moeite en zonder rem.’

Maar is er ook een positieve kant aan de AI-revolutie? Je kunt misschien ook racisme of islamofobie beter bestrijden met deze nieuwe tools. Benaissa ziet echter weinig reden tot optimisme. ‘Er zijn wetenschappers die proberen vooroordelen uit systemen te halen. Maar de mensen die deze technologie bouwen, vinden het tegengaan van discriminatie meestal niet belangrijk. Of ze verspreiden het juist.’

De Nederlandse overheid draagt daaraan bij, vindt Benaissa. Ze wijst op het visumaanvraag-algoritme van het ministerie van Buitenlandse Zaken, dat aanvragen uit Marokko en Suriname structureel niet behandelde. ‘Er lag een advies om dit niet te doen. Dat is genegeerd. Er is bewust gekozen voor discriminatie.’

Ruimte voor discriminatie

Bits of Freedom pleit daarom voor een verbod op profileringsalgoritmen door de overheid. ‘Er is te weinig toezicht, te weinig verantwoordelijkheid en er zijn te weinig sancties. Minderheden betalen hiervoor de rekening.’

De organisatie werkte mee aan het nieuwe Nederlandse normenkader voor AI, maar moest, samen met mensenrechtenorganisaties Controle Alt Delete en Amnesty Nederland, een minderheidsstandpunt innemen. ‘Het College voor de Rechten van de Mens steunde het meerderheidsstandpunt, dat discriminatie in bepaalde gevallen toestaat. Het normenkader laat te veel ruimte voor discriminatie. Dat is zorgwekkend.’

‘Er is te weinig toezicht en er zijn te weinig sancties’

Bits of Freedom publiceerde onlangs een kritisch rapport over profileringsalgoritmes. Ook de Commissie tegen Discriminatie en Racisme, die door het kabinet is ingesteld, pleit inmiddels voor een stop op deze algoritimes. ‘Dat is bijzonder, want de overheid wil deze technologie juist graag blijven gebruiken’, zegt Benaissa.

Volgens haar is de kern van het probleem niet technologisch, maar politiek. ‘ Bedrijven en overheden die discriminerende AI inzetten, bewust of onbewust, worden onvoldoende verantwoordelijk gehouden en burgers betalen daar de rekening voor. Al is geen neutrale kracht. Het versterkt wat er al is.’