Onderzoekers Naomi Appelman, Jill Toh en Hans de Zwart van het platform Racism and Technology Center hekelen surveillancesoftware van de Universiteit van Amsterdam, omdat die mensen van kleur benadeelt. Dit schrijven de drie in het Parool.
Via het programma Proctorio checkt de UvA of studenten van thuis niet frauderen bij tentamens. Studenten willen graag van dit programma af, omdat ze tijdens de tentamens nu niet meer naar de wc kunnen. Ook zou de privacy van studenten worden geschonden.
Maar volgens de drie onderzoekers, waarvan Appelman en Toh promoveren aan de UvA, is het programma ook racistisch.
Proctorio maakt gebruik van OpenCV, een vrij te gebruiken softwarebibliotheek die gezichten kan herkennen. Maar uit een experiment van de Amerikaanse wetenschapper Akash Satheesan bleek dat OpenCV mensen met een donkere huidskleur minder goed herkent.
Voor de drie activisten is dit hét bewijs dat proctoringssoftware racistisch is, en dat de UvA hiermee moet stoppen.
‘Je kunt als instelling niet aan de ene kant beloftes doen om racisme tegen te gaan, terwijl je tegelijkertijd software gebruikt die bewezen racistisch is.’
Tijdschrift the New Yorker schreef eerder over een zwarte student bewegingswetenschappen topsporter die bij Proctorio bij geen van zijn zeven online tentamens kon worden geïdentificeerd, terwijl zijn witte medestudenten nergens last van hadden.
