Artificial Intelligence (AI) kan veel mogelijkheden bieden voor gemeenten. Om het gebruik ervan en de impact op de samenleving te reguleren, is de Europese Commissie met nieuwe wetgeving gekomen: de AI-act. Wat houdt dit in voor gemeenten? Welke stappen moet je zetten om te voldoen aan de nieuwe normen? Vanaf 1 februari is werk maken van AI-geletterdheid al verplicht en is het inzetten van AI-systemen met voor inwoners onaanvaardbare risico’s verboden.
De AI-act is een regelgevend kader voor lidstaten van de Europese Unie (EU) om het vertrouwen in AI-systemen te vergroten, en de bescherming van fundamentele rechten te waarborgen. De wet heeft betrekking op organisaties die AI-systemen ontwikkelen, leveren en gebruiken, waaronder gemeenten.
Augustus 2026
Op 12 juli 2024 is de Europese AI-act gepubliceerd in het Publicatieblad van de EU. De wet is van kracht sinds augustus, maar treedt gefaseerd in werking. De termijn voor naleving van het grootste deel van de regels is 2 jaar na de inwerkingtreding van het kader. Ook gemeenten moeten daar uiterlijk op 2 augustus 2026 aan voldoen en hun gebruik van de nieuwe technologie registreren in de Europese database voor AI-systemen.
De verplichting om AI-geletterdheid te bevorderen, gaat al op 1 februari aanstaande in. Ook moeten gemeenten vanaf die datum alle AI-systemen met voor inwoners onaanvaardbare risico’s uitsluiten. Een voorbeeld is gezichtsherkenningssoftware. In VNG-verband is afgesproken geen biometrische identificatietechnieken in de publieke ruimte te gebruiken.
Betekenis voor gemeenten
Voor gemeenten die al AI-systemen gebruiken of dit willen gaan doen, heeft de AI-act een aantal consequenties. De wetgeving vereist transparante procedures rond het gebruik van AI en stelt strengere eisen aan risicobeperking. In principe moeten gemeenten voldoen aan een reeks verplichtingen, waaronder risicobeoordelingen, registratie, transparantie, menselijk toezicht en hoge kwaliteit van de data. Lokale overheden dienen daartoe concrete stappen te zetten.
Praktische stappen
- Bewustwording en training: Om te beginnen is het essentieel dat gemeenten de AI-act en het potentiële effect ervan op hun activiteiten begrijpen. Dit kan inhouden dat er interne workshops en trainingen worden georganiseerd om kennis te vergroten.
- Risicobeoordeling: Elke AI-toepassing die een gemeente gebruikt of overweegt te gebruiken, moet worden beoordeeld op potentiële risico’s. Dit betekent een grondige analyse van de technische kenmerken van het systeem en de situaties waarin het zal worden gebruikt.
- Actieplan: Op basis van de risicobeoordeling moeten gemeenten een actieplan opstellen voor het beheren en verminderen van risico’s. Dit kan garanties omvatten voor menselijk toezicht op AI-systemen, duidelijke procedures voor het omgaan met eventuele problemen, en een gedetailleerd plan voor het openbaar maken van relevante informatie over het AI-systeem.
- Kwaliteit van de data: Het is essentieel dat de gebruikte data in AI-systemen van hoge kwaliteit is en voortdurend wordt gecontroleerd. Gemeenten moeten procedures ontwikkelen voor regelmatige databeoordeling en zorgen dat de data voldoen aan de eisen van de AI-act.
- Juridisch en ethisch overleg: Gemeenten moeten zich ook bewust zijn van de juridische en ethische implicaties van het gebruik van AI. Dit omvat zowel naleving van bestaande regelgeving (zoals de AVG) als de principes van ethische AI. Gemeenten zijn verplicht om juridische en ethische overwegingen rond AI volledig te integreren.
- Continue monitoring en aanpassing: Als AI-systemen in gebruik zijn, moeten gemeenten zorgen voor regelmatige controles en herzieningen van de activiteiten. Dit zorgt er ook voor dat eventuele wijzigingen in de wetgeving tijdig worden geïmplementeerd.
Het gemeentelijke AI-beleid moet uiterlijk op 2 augustus 2026 hieraan voldoen.
AI-geletterdheid
Gemeenten moeten de rol en impact van AI in de openbare dienstverlening begrijpen, die kennis toepassen, en erover communiceren. In het kader van de AI-geletterdheid zijn vanaf 1 februari aanstaande de volgende stappen al geboden.
Bewustwording en Training: Alle medewerkers die te maken hebben met AI, moeten getraind worden in de grondbeginselen ervan. Dit geldt voor zowel technisch personeel als beleidsmakers. Gemeenten moeten voldoende educatieve middelen rond AI aan medewerkers aanbieden. Denk aan het verspreiden van gidsen, handleidingen en trainingsmodules rond AI-concepten.
Integratie in beleid en praktijk: Begrip van AI moet deel uitmaken van de algehele strategie van de gemeente.
Forum voor dialoog: Er moet een forum komen voor medewerkers en belanghebbenden om vragen te stellen, discussies te voeren en gedachten uit te wisselen over AI-kwesties.
Belang van AI-geletterdheid
Door deze zaken in gang te zetten, voldoen gemeenten aan de wettelijke verplichtingen en dragen ze bij aan een AI-geletterde samenleving. Dit zou helpen om de ethische, juridische en sociale uitdagingen die gepaard gaan met AI aan te pakken. Gemeenten kunnen op een meer geïnformeerde en transparante manier beslissingen nemen over het gebruik van AI. Met uiteindelijk betere publieke diensten voor bewoners.
Geef een reactie