De rechtbank Den Haag vraagt opheldering van de minister van Buitenlandse Zaken over het gebruik van algoritmen bij het beoordelen van de visumaanvraag voor kort verblijf. Dit zou discriminerend kunnen werken, zoals gebeurde bij de Toeslagenaffaire, stelt de rechtbank.
De aanleiding voor het verzoek is een zaak van een Marokkaanse vrouw uit Egypte. Zij wilde tijdelijk naar Nederland komen om haar Nederlandse man te verzorgen na zijn hartaanval, maar haar aanvraag werd afgewezen. Hierbij werd een algoritme gebruikt. Dit werd vervolgens niet vermeld in de besluitvorming.
De rechtbank heeft zorgen over deze manier van oordelen. Besluitvorming moet transparant zijn en dit geldt ook voor bestuursorganen. De rechtbank verwijst daarbij naar de Toeslagenaffaire, waarbij gebruik werd gemaakt van een discriminerend algoritme. Ook wijst de rechtbank op rapportages van onder meer de Algemene Rekenkamer, de Autoriteit Persoonsgegevens en de Nationale ombudsman, die waarschuwen voor risico’s van discriminatie, zoals etnisch profileren, bij geautomatiseerde besluitvorming en risicoprofilering.
De rechter wil dat de minister onderzoekt hoe het algoritme werkt en is gebruikt bij de beslissing. Ook wil de rechtbank weten of er al een Impact Assessment Mensenrechten en Algoritmes (IAMA) is uitgevoerd, en zo ja: door wie, met welke inhoud en welke conclusies.
Op basis van de uitkomst van het onderzoek zal de zaak van de vrouw opnieuw worden bekeken.
