Opinie Veiligheid laat zich niet in een algoritme vatten

0

Als gemeente kun je het anno 2019 echt niet meer verkopen om big data en deep learning links te laten liggen. Iedereen weet toch dat deze technologieën de wereld ingrijpend zullen veranderen? Of ben jij niet bij een van de tientallen conferenties geweest, waarin werd uitgelegd dat de wereld maakbaarder is dan ooit?

Collega’s van andere gemeenten experimenteren er intussen al stevig op los: uitkeringsfraude en huiselijk geweld voorspellen, maar ook veiliger uitgaan door sensoren. You name it, met big data kan het! De digitalisering van de samenleving heeft er immers voor gezorgd dat van alles, overal, altijd data beschikbaar is. De offline en online wereld zijn onlosmakelijk en met elkaar verbonden. De Wetenschappelijke Raad voor het Regeringsbeleid spreekt in dit kader over een ‘cybernetische’ loop.

De toekomst voorspellen?

Door de juiste datastromen aan elkaar te knopen krijg je een realtime blik in de complexiteit van het moment, maar big data stelt je zelfs in staat de toekomst te voorspellen. Waardoor je kunt anticiperen en onwenselijkheden voor kunt zijn. ‘Dat lijkt me sterk,’ hoor ik je denken. En je gezonde verstand heeft het bij het juiste eind! Er is namelijk een sterke noodzaak voor meer nuance over big data-toepassingen, dan doorgaans in het publieke debat doorsijpelt.

Optimisten in dit debat hebben de overhand en critici worden afgedaan als zure conservatieven die de dodo snel achterna zullen gaan. Toch is er een machtig wapen tegen big data-retoriek: ratio. Stel aan de volgende big data-aanhanger die je treft, midden in het relaas eens de vraag welke kleur auto hij/zij rijdt. Mits goed getimed, kan deze vraag de data-rasoptimist volledig uit zijn binaire flow halen: Waarom vraag je dat?!’

Correlatie of causaliteit

Houd deze aandacht nauwkeurig vast. Het is vervolgens zaak om met een ernstig gezicht te zeggen dat mensen met toevallig net die kleur auto een verhoogde kans op hartfalen hebben (toeval maakt bij big data toch niet meer uit, daarover later meer). Je wilt natuurlijk niet op de zaken vooruitlopen, maar je kunt de persoon in kwestie wel vriendelijk op het hart drukken uit te kijken, of beter: misschien preventief alvast een arts te bezoeken. Doe niet zo raar!’ of woorden van gelijke strekking zullen al snel volgen.

Het doel is bereikt: ratio. Want exact hier wringt de schoen. In big data is er géén onderscheid tussen correlatie en causaliteit. Het maakt met andere woorden niet uit of er samenhang is omdat zaken toevallig gelijktijdig optreden of dat het ene het andere veroorzaakt. Samenhang is genoeg om vergaande conclusies te trekken: big data is per definitie cheap, quick en dirty data.

Behoorlijk bestuur

Begrijp me goed, big data-technieken kunnen zeker helpen in de ondersteuning van complexe analyses in het veiligheidsdomein, maar we moeten ten aanzien van de toepassingen en implementatie verstandigere keuzes maken en ons vooral afvragen of en waarom we deze technieken willen inzetten. Omdat het kán, is geen antwoord, want deze technieken verhouden zich zeer gespannen tot de uitgangspunten van behoorlijk bestuur in een democratische rechtsstaat.

Zo zal elke vorm van besluitvorming uitlegbaar moeten zijn. Maar hoe doe je dat als zelflerende systemen de vrije hand krijgen? En wat te doen als daarbij verkeerde conclusies worden getrokken? De complexiteit waarmee veiligheid gepaard gaat, laat zich niet een-op-een betrouwbaar in data en algoritmen vatten. Je begrijpt, dit zijn meer redenen voor terughoudendheid dan om vol enthousiasme met big data te gaan experimenteren.

Ogen en oren open

Onze beheersingsdrang – juist op het gebied van veiligheid – maakt ons al snel doof voor dergelijke, fundamentele kritieken. Gelukkig koersen de meeste veiligheidsprofessionals niet blind op de data waarin zij maar zo verstrikt zouden kunnen raken. Ondanks alle hooggespannen verwachtingen van nieuwe technologie koersen ze nog nuchter op hun professionele intuïtie en houden de ogen en oren open voor tools die echt kunnen helpen. Veiligheid is en blijft mensenwerk.

Dr. Remco Spithoven is lector Maatschappelijke Veiligheid aan de Academie voor Bestuur, Recht & Ruimte van Hogeschool Saxion en daarnaast research-fellow bij de kenniswerkplaats Veiligheid & Veerkracht van de Faculteit der Sociale Wetenschappen aan de Vrije Universiteit Amsterdam.

Reageer

Het laatste nieuws van Gemeente.nu in je mailbox?

Meld je aan voor de algemene nieuwsbrief of een van de themanieuwsbrieven van Gemeente.nu.

Aanmelden