• Skip to primary navigation
  • Skip to main content
  • Skip to primary sidebar
  • Skip to footer
  • Contact
  • Nieuwsbrief

Gemeente.nu

Nieuws voor gemeenten

  • Bedrijfsvoering
    • Aanbestedingen
    • AI
    • Belastingen
    • Burgerzaken
    • Communicatie
    • Digitalisering
    • Financiën
    • Ondernemersbeleid
    • Organisatie
    • Privacy
    • Vergunningen
  • Sociaal
    • Bijstand
    • Decentralisatie
    • Integratie
    • Jeugdzorg
    • Onderwijs
    • Ouderen
    • Schuldhulp
    • Sport
    • Werk
    • Wmo
  • Veiligheid
    • Boa
    • Cybersecurity
    • Evenementen
    • Handhaving
    • Ondermijning
    • Openbare orde
  • Ruimte & Milieu
    • Afval
    • Bodem
    • Bouw
    • Duurzaamheid
    • Energie
    • Infrastructuur
    • Leefomgeving
    • Omgevingswet
    • Smart city
  • Loopbaan
    • Cao
    • Integriteit
    • Leiderschap
    • Mobiliteit
    • Ontwikkeling
    • Pensioen
  • Bestuur
    • College
    • Gemeenteraad
    • Participatie
    • Samenwerking
    • Raadsledennieuws (archief)
  • Partners
    • KaFra Housing
    • KPN
    • Sdu
    • Segment
  • Whitepapers
  • Opleidingen

Gemeenten worstelen met ethische risico’s AI – deel 1

7 oktober 2024 door Pieter van den Brand

Lees voor

Een efficiënte bedrijfsvoering en een betere dienstverlening zijn de beloften van AI. Maar vaak gaat dat ten koste van een verantwoorde inzet van het slimme algoritme-vernuft, leren recente ervaringen in Groningen en Rotterdam. In dit eerste deel het verhaal van Groningen.

In Groningen oordeelde de ethische commissie Data & Technologie dat de beoogde inzet van generatieve AI door de gemeente botst met het opgestelde ethisch waardenkader. De onafhankelijke commissie adviseert over het gebruik van AI en algoritmen door de gemeente en is vorig jaar ingesteld door de gemeenteraad. Met name omdat het college vergaande plannen met generatieve AI (genAI) koestert.

ChatGTP

In een ‘summerschool’ in de zomer van 2023 mochten al zo’n 40 medewerkers experimenteren met het veelbezongen ChatGPT dat tekst, beeld en computercode kan genereren. Groningen opende hiervoor een betaald account bij OpenAI, het bedrijf achter ChatGPT.

Copilot

Concreet legde de ethische commissie de plannen van het college onder de loep om een proefproject met Microsoft’s Copilot 365 te starten. Doel is na te gaan of de genAI-tool aan een betere bedrijfsvoering bij kan dragen. Bijvoorbeeld door routinematig werk te automatiseren of de databases van de gemeente toegankelijker te maken. Groningen wil de digitale assistent integreren in de Office 365-applicaties die ze van Microsoft afneemt. Vanwege dit contract is ChatGPT inmiddels afgevallen.

Visie op genAI

Op de achtergrond werkt de gemeente sinds begin dit jaar aan een visie op genAI. Voor het advies sprak de ethische commissie ook de medewerkers die met een conceptversie van de visie bezig zijn. Deze bevindingen zijn eveneens in het adviesrapport meegenomen. Het college vroeg overigens zelf om het advies.

Potentie

De commissie oordeelt dat de gemeente de basis, zoals het databeheer, onvoldoende op orde heeft om de potentie van genAI volledig te kunnen benutten. Anders gezegd: het college loopt te hard van stapel met het niet-denkbeeldige risico dat de gang naar Copilot straks niet te stoppen is en de gemeente alle grip erop verliest.

De afhankelijkheid van commerciële techbedrijven als Microsoft is groot. Voor cloud-oplossingen als Office 365 geldt dat helemaal. Als extraatje zetten Microsoft en Google hun genAI-tools in om klanten nog afhankelijker te maken van hun diensten. Als Copilot niet bevalt, redeneert de commissie, zal het lastig zijn er vanaf te komen. Het college heeft daar onvoldoende over nagedacht.

Copilot Chat

In haar genAI-ambities heeft de gemeente ook Copilot Chat in het vizier. Deze gratis AI-tool is met zoekmachine Bing geïntegreerd. De veiligheid van deze genAI-tool staat nog ter discussie. Volgens de ethiekcommissie heeft de gemeente te weinig zicht op hoe het gebruik van Copilot Chat de interactie met inwoners kan beïnvloeden, als dit AI-vernuft straks de communicatie tussen inwoners en gemeente gaat vertalen. En in hoeverre is de privacy van inwoners gewaarborgd?

In tegenstelling tot Copilot 365 zijn er over Copilot Chat nog geen privacy-afspraken gemaakt tussen Microsoft en het Rijk, dat hier verantwoordelijk voor is. Wat zou betekenen dat het techbedrijf zelf bepalen mag wat het met de in Copilot Chat ingevoerde informatie doet. Het Rijk is een zogeheten DPIA (Data Protection Impact Assessment) en IAMA (Impact Assessment voor Mensenrechten bij de inzet van Algoritmes) van de AI-chatbot gestart en wil op basis hiervan verder met Microsoft onderhandelen.Tot die tijd luidt het advies het AI-vernuft niet te gebruiken.

Exit-strategie

In een reactie op het advies wil het college benadrukken dat de gemeente op AI-vlak nog in de verkennende fase zit. Wel zegt het toe met een duidelijk standpunt te zullen komen in de nog uit te brengen visie op genAI. Ook gaat het college een exit-strategie opstellen, mocht het onverhoopt met de inzet van Copilot willen stoppen.

In deel 2 de gemeente Rotterdam, die opnieuw door de eigen rekenkamer op de vingers getikt is over algoritme-gebruik. Gemeenten worstelen met ethische risico’s AI – deel 2.

Tagged With: ai, chatgtp, risico's Filed Under: Cybersecurity, Digitalisering

Reageer
Vorige artikel
Gemeenteambtenaren tot nu toe teleurgesteld in Omgevingswet
Volgende artikel
Gemeenten worstelen met ethische risico’s AI - deel 2

Reader Interactions

GERELATEERD

spelregels AI gemeenten

AI-spelregels voegen voor gemeenten weinig toe

De nieuwe spelregels van het kabinet voor een verantwoord gebruik van generatieve AI voegen in de praktijk weinig toe voor gemeenten. Ze treffen al volop maatregelen. Ook de ontwikkeling van veilige AI-technologie is bij gemeenten in goede handen.

Amsterdam maakt eigen AI-assistent: ChatAmsterdam

Ambtenaren van de gemeente Amsterdam kunnen vanaf nu gebruikmaken van ChatAmsterdam: een zelf ontwikkeld alternatief voor AI-producten als ChatGPT.

Montferland AI

Montferland koploper met huisgemaakte AI

Sommige gemeenten maken gebruik van chatbots, die 24/7 vragen van inwoners afhandelen. De VNG wil de virtuele assistent landelijk uitrollen. Het kleine Montferland speelt een sleutelrol in deze ambitie en heeft AI omarmd met nog meer toepassingen. Steeds meer inwoners maken kennis met de virtuele assistenten van gemeenten. Voorbeelden zijn het door Tilburg en Utrecht... lees verder

Geef een reactie Reactie annuleren

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Primary Sidebar

TOPVACATURES

Projectmanager Gebiedsontwikkeling – 36 uur – Gemeente Westland

Senior Stedenbouwkundige – Gemeente Emmen

Strategisch Financieel Adviseur – Gemeente Velsen

Coördinator Omgevingsdialoog Industrie & Gezondheid IJmond – Gemeente Velsen

Meer vacatures

LAATSTE ARTIKELEN

Nieuwe ronde Regeling Huisvesting Aandachtsgroepen vanaf juni

28 mei 2025

speelplekken en staalslakken

Staatssecretaris: gebruik geen staalslakken bij speelplekken

28 mei 2025

Recreatiewoning

Kabinet wil permanente bewoning recreatiewoningen 10 jaar toestaan

27 mei 2025

Grote regionale verschillen in arbeidsongeschiktheid

27 mei 2025

Verward gedrag

Meer samenwerking bij aanpak verward of onbegrepen gedrag

27 mei 2025

GEMEENTE.NU PARTNERS

De missie van Segment
  • Segment

De missie van Segment

‘Met een integrale aanpak kun je de jeugd beter helpen’
  • Segment

‘Met een integrale aanpak kun je de jeugd beter helpen’

‘Alles onder de Wet open overheid is openbaar, tenzij…’
  • Segment

‘Alles onder de Wet open overheid is openbaar, tenzij…’

‘Nieuwe locatie voor een school roept vaak weerstand op’
  • Segment

‘Nieuwe locatie voor een school roept vaak weerstand op’

Crisisbeheer: voorbereiden op cyberaanvallen 
  • Segment

Crisisbeheer: voorbereiden op cyberaanvallen 

Vernieuwend opleidingsaanbod gebiedsontwikkeling
  • Segment

Vernieuwend opleidingsaanbod gebiedsontwikkeling

Leergang Ambtelijk Vakmanschap: groeien als ambtenaar
  • Segment

Leergang Ambtelijk Vakmanschap: groeien als ambtenaar

‘Het oliemannetje in de gemeentelijke machine’
  • Segment

‘Het oliemannetje in de gemeentelijke machine’

Nieuwe trainingen informatieveiligheid bij Segment
  • Segment

Nieuwe trainingen informatieveiligheid bij Segment

Eigen academie Maastricht biedt medewerkers ruime keuze
  • Segment

Eigen academie Maastricht biedt medewerkers ruime keuze

Burgerzaken gaat terug naar school: een nieuw concept
  • Segment

Burgerzaken gaat terug naar school: een nieuw concept

20 juni: Informatiebijeenkomst Diplomalijnen NLQF-6
  • Segment

20 juni: Informatiebijeenkomst Diplomalijnen NLQF-6

Vijf adviezen om je team up-to-date te houden
  • Segment

Vijf adviezen om je team up-to-date te houden

De drie p’s van Segment
  • Segment

De drie p’s van Segment

Segment: partner in gemeentelijke ontwikkeling
  • Segment

Segment: partner in gemeentelijke ontwikkeling

De Wet open overheid is voor iedereen relevant
  • Segment

De Wet open overheid is voor iedereen relevant

Het diploma Burgerzaken haal je bij Segment
  • Segment

Het diploma Burgerzaken haal je bij Segment

‘Neem je bivak en je matties mee’
  • Segment

‘Neem je bivak en je matties mee’

Warmdraaien voor de Omgevingswet: praktische kennis voor een naadloze overgang 
  • Segment

Warmdraaien voor de Omgevingswet: praktische kennis voor een naadloze overgang 

Vijf tips voor een betere dienstverlening en klantgerichtheid
  • Segment

Vijf tips voor een betere dienstverlening en klantgerichtheid

‘Een feestje van de ceremonie maken’
  • Segment

‘Een feestje van de ceremonie maken’

Van bestemmingplan naar omgevingsplan
  • Segment

Van bestemmingplan naar omgevingsplan

Bereid je voor op extra paspoort- en ID-kaartaanvragen
  • Segment

Bereid je voor op extra paspoort- en ID-kaartaanvragen

Professioneel risicomanagement steeds belangrijker
  • Segment

Professioneel risicomanagement steeds belangrijker

Aan de slag met de Wet open overheid
  • Segment

Aan de slag met de Wet open overheid

Nieuw: Leergang adviseur integrale gebiedsontwikkeling 
  • Segment

Nieuw: Leergang adviseur integrale gebiedsontwikkeling 

Zomerkorting bij Segment! 
  • Segment

Zomerkorting bij Segment! 

Nieuw personeel in een financiële functie snel inwerken 
  • Segment

Nieuw personeel in een financiële functie snel inwerken 

Vermijd de valkuil van niet integer handelen door raadsleden
  • Segment

Vermijd de valkuil van niet integer handelen door raadsleden

Modules Burgerzakendiploma’s in Noord- en Zuid-Nederland te volgen
  • Segment

Modules Burgerzakendiploma’s in Noord- en Zuid-Nederland te volgen

Beleidsadviseur onderwijs? Deze nieuwe cursus is voor jou
  • Segment

Beleidsadviseur onderwijs? Deze nieuwe cursus is voor jou

Beteugel agressie tegen publieke medewerkers – drie tips
  • Segment

Beteugel agressie tegen publieke medewerkers – drie tips

Zo kom je tot een robuuste begroting
  • Segment

Zo kom je tot een robuuste begroting

Vijf redenen om voor Segment te kiezen
  • Segment

Vijf redenen om voor Segment te kiezen

Online BRP-cursus: ‘Even wennen, maar veel geleerd’
  • Segment

Online BRP-cursus: ‘Even wennen, maar veel geleerd’

Eerste Hulp bij Verkiezingen
  • Segment

Eerste Hulp bij Verkiezingen

Juiste identiteitsvaststelling – belangrijker dan ooit
  • Segment

Juiste identiteitsvaststelling – belangrijker dan ooit

De missie van Segment
  • Segment

De missie van Segment

‘Met een integrale aanpak kun je de jeugd beter helpen’
  • Segment

‘Met een integrale aanpak kun je de jeugd beter helpen’


Footer

Snel naar

  • Aanbestedingen
  • AI
  • Financiën
  • Handhaving
  • Integriteit
  • Leefomgeving

Meer Gemeente.nu

  • Nieuwsbrief
  • Facebook
  • Twitter
  • Linkedin
  • Events

Help

  • Adverteren
  • Contact
  • Spelregels

Powered by Sdu

SDU