De politie is gestopt met het Criminaliteits Anticipatie Systeem (CAS). Minister Van Weel benadrukt dat het systeem geen bevoegdheden uitbreidde en dat nieuwe regels strenge eisen stellen aan algoritmes en AI.
De minister van Justitie en Veiligheid heeft Kamervragen beantwoord over het gebruik en beëindigen van het Criminaliteits Anticipatie Systeem (CAS), een algoritme dat de kans op criminaliteit in buurten voorspelde. Het systeem maakte gebruik van aangiftegegevens van burgers en ondernemers, aangevuld met geaggregeerde omgevingsvariabelen van het CBS. Deze gegevens bevatten geen persoonsgegevens en werden verwerkt op basis van bestaande wettelijke grondslagen, zoals het Wetboek van Strafvordering en de Wet politiegegevens. Van uitbreiding van bevoegdheden was volgens de minister geen sprake.
Geen inzet zonder concrete aanleiding
De uitkomsten van CAS gaven uitsluitend een “waarschijnlijkheidsindicatie” van criminaliteit in een gebied en richtten zich niet op personen of bevolkingsgroepen. Individuele controles konden daarom nooit uitsluitend op een risicoscore worden gebaseerd. Voor concrete inzet was altijd aanvullende informatie en een menselijk oordeel nodig.
Hoewel CAS bijdroeg aan een gerichtere inzet van politiecapaciteit, bleef onduidelijk wat de exacte operationele meerwaarde was. Tegelijkertijd is de politie gestart met de verdere professionalisering van haar AI-governance, waaronder doorlopende toetsing op juridische, technische en ethische kwaliteit.
Zorgen over discriminatie en nieuwe regels
De politie ontving geen signalen van daadwerkelijke discriminatie, maar er zijn wel zorgen geuit, onder meer door Amnesty International. Deze organisatie wees op mogelijke versterking van bestaande vooroordelen en gebrek aan transparantie.
De minister benadrukt dat etnisch profileren verboden is en dat systemen die (in)directe discriminatie veroorzaken niet zijn toegestaan. Toepassing van algoritmes vereist “aantoonbare rechtmatigheid en noodzakelijkheid”, evenals toetsing op vooringenomenheid en menselijk toezicht.
De Europese AI-verordening biedt hiervoor een wettelijk kader. Systemen die uitsluitend op profilering zijn gebaseerd en criminaliteit voorspellen, vallen in de categorie “onaanvaardbaar risico” en zijn verboden. Andere systemen worden aangemerkt als “hoog risico” en moeten aan strenge eisen voldoen.
De politie toetst haar algoritmes via een intern kwaliteits- en risicoproces en publiceert informatie hierover in het Algoritmeregister.
Geef een reactie