Het Centraal Orgaan opvang asielzoekers (COA) test een algoritme dat statushouders automatisch koppelt aan gemeenten waar ze de meeste kans op werk zouden hebben. Onderzoekers waarschuwen dat het systeem niet eerlijk werkt en het risico op discriminatie vergroot.
Algoritme dat kansen moet creëren, doet het omgekeerde
Het zogeheten GeoMatch-programma belooft een efficiëntere verdeling van statushouders over Nederland. In de praktijk blijkt het algoritme vooral te beoordelen wie het best ‘past’ bij een regio. Wie op papier iets meer kans heeft op werk, wordt aan gunstige gemeenten gekoppeld; de rest belandt in gebieden met minder perspectief. ‘Daardoor worden kansarme mensen uiteindelijk gekoppeld aan plaatsen waar hun kansen sowieso al laag zijn’, zegt promovendus Kinan Alajak.
Signalen van discriminatie
Uit interne COA-rapporten die de onderzoekers van de Universiteit Utrecht en Follow the Money konden inzien, blijkt dat het systeem gevoelige persoonskenmerken gebruikt. In een van de rapportages staat: ‘Een deel van de variabelen zegt onmiskenbaar iets over de etniciteit van de betrokkenen. Dit leidt tot hoog risico op discriminatie.’
Volgens de onderzoekers wegen afkomst en nationaliteit zwaarder dan opleiding of werkervaring. ‘In de beslissingen van het systeem tellen iemands opleiding en werkervaring nauwelijks mee, terwijl of je Syrisch, Somalisch of Koerdisch bent wél verschil maakt.’ Ook vrouwen worden vaak genegeerd. Het algoritme kijkt vooral naar degene in het gezin met de meeste kans op werk. ‘Door de gekleurde data waarmee het algoritme is getraind, is dat volgens GeoMatch meestal de man.’
Beslissingen in een zwarte doos
Hoe GeoMatch precies keuzes maakt, weet niemand. COA-medewerkers krijgen geen inzicht in de berekeningen, en ook statushouders weten niet waarom zij ergens worden geplaatst. ‘De ruimte voor menselijke controle verdwijnt volledig’, waarschuwt Koen Leurs, migratie- en digitaliseringsdeskundige. Maar tegelijkertijd bepaalt dit systeem waar iemand zijn leven opnieuw moet opbouwen.
COA wil door met het systeem
Ondanks de aanhoudende kritiek wil het COA het systeem op grote schaal inzetten. De onderzoekers vinden dat ze hiermee moeten wachten. Ze roepen de overheid op het experiment te stoppen tot de technologie transparant en controleerbaar is, en de rechten van kwetsbare mensen beter zijn beschermd.
Geef een reactie