De risico’s van artificiële intelligentie (AI) en algoritmes nemen verder toe, onder meer door de opkomst van generatieve AI. ‘Ontwikkelingen gaan op dit moment sneller dan we als samenleving zulke risico’s kunnen herkennen en aanpakken via regelgeving en toezicht, aldus de Autoriteit Persoonsgegevens (AP).
De privacywaakhond waarschuwt in de tweede editie van de Rapportage AI- & algoritmerisico’s Nederland dat er meer én beter zicht en grip moet komen op deze risico’s. Ook pleit de AP voor een deltaplan vóór 2030. Met daarin onder meer menselijke regie, veilige applicaties en systemen en eisen aan organisaties. Verder wil de AP meer maatschappelijke educatie. ‘Het moet voor mensen duidelijk zijn welke rol algoritmes en AI spelen in hun leven en hoe ze daar grip op krijgen en houden.’
Gemeenten
Ook in gemeenten worden AI en algoritmes steeds meer ingezet. De VNG vindt het belangrijk dat gemeenten generatieve AI kunnen inzetten voor hun inwoners. ‘Hierbij moet een evenwichtige benadering worden gekozen, waarbij innovatie gestimuleerd wordt binnen bestaande wettelijke kaders.’
AP-voorzitter Aleid Wolfsen licht toe dat hoe meer AI en algoritmes worden ingezet in de samenleving, hoe meer incidenten plaatsvinden. ‘Bijvoorbeeld mensen die foute adviezen krijgen van chatbots, gezichtsherkenningssystemen die minder goed werken voor mensen van kleur of mensen die een lawine aan parkeerboetes krijgen van de gemeente omdat scanauto’s niet correct ingezet worden.’
| Werk je bij een gemeente en wil je je verdiepen in de mogelijkheden die kunstmatige intelligentie biedt? Ben je geen IT-specialist, maar wil je toch weten hoe je AI optimaal en verantwoord integreert in jouw gemeente? De 3-daagse opleiding AI & Gemeente combineert theorie en praktijk. |
Registratie neemt toe
Uit: Rapportage AI- & Algoritmerisico’s Nederland
Uit het rapport blijkt dat de registratie van algoritmes toeneemt, vooral door de G4, Amsterdam, Den Haag, Rotterdam en Utrecht. In 2023 waren in grote gemeente zichtbare auditering en evaluaties van het gebruik van algoritmes. Door gemeenten zelf en door controlerende organisaties. De Rekenkamer Metropoolregio Amsterdam publiceerde onlangs het onderzoek Algoritmen.
Conclusie is dat de gemeente Amsterdam in het beheerskader en de praktijk nog weinig aandacht heeft voor: de eerlijkheid van algoritmes, de privacybescherming van burgers en de openheid over het ontwikkelen en toepassen van algoritmes. Volgens de AP zijn deze aandachtspunten waarschijnlijk ook voor andere gemeenten relevant.
Gemeentelijke processen
Het is volgens het onderzoek van de AP positief dat gezocht wordt naar aanknopingspunten, bouwstenen en instrumenten om de inzet van algoritmes in gemeentelijke processen te beheersen. ‘Veel audits en evaluaties zullen uitwijzen dat de beheersing als geheel nog onvoldoende is.’ Met die uitkomsten moeten gemeenten komen tot concrete en specifieke verbeteringen van onderdelen van de beheersing. ‘Het is van belang om hierbij prioriteit te geven aan de onderdelen die het meest impact op de burger hebben.’
Ik maak zojuist een grofvuil afspraak en zonder in te loggen woedt mijn adres postcode huisnummer al.getoond. er was geen formulier o.i.d dus hoe kan. Dit???? Tevens ervaar ik.al. langere tijd problemen en tegenwerking bij het aanvragen van kwijtschelding. Mij. Inkomen is niet veranderd ( wia vga) mijn kosten of hyisvesting etc ook niet en ik vind hef aanleveren van 3 maanden aan bankafschriften erg inbreuk maken op.mijn persoonlojke leven. Ik.voel.me als.een cri.ineel vehandeld en ik.krijg maar 100 euro meer inkomen dan bijstandsniveau. Dus wat kan dat zijn en hoe kom.ik achter algoritmes en wat wel en njet mag ( zwarten van uitgaven bijv. Gaat ze geen hol aan waar en wat ik koop toch? Maar ze vragen het wel.en zwarten mag niet ook bij RGB )