De gemeente Amsterdam stopt een proef met de AI-toepassing Microsoft Copilot vanwege privacyrisico’s. Gemeentekoepel de VNG adviseert haar achterban ‘bewust de keuze te maken of de risico’s opwegen tegen de baten’.
Copilot kan worden gebruikt voor het maken van notulen tijdens vergaderingen, schrijven van documenten en het doorzoeken van onder andere e-mails en chats. De toepassing is interactief en werkt met ‘prompts’, waarbij de gebruiker vragen kan stellen en het AI-hulpprogramma antwoord geeft.
Niet transparant
Gedurende deze interactie tussen de gebruiker en Copilot worden onder andere persoonlijke gegevens verwerkt. Die gegevensverwerking moet voldoen aan de wet- en regelgeving op het gebied van privacy. Op dat gebied schiet de AI-software tekort, bijvoorbeeld doordat niet transparant is hoe gegevensverwerking plaatsvindt.
De problemen met de software zijn uitvoerig belicht in een privacytoets (data protection impact assessment, kortweg DPIA) die de inkooporganisatie SLM Rijk onlangs uitvoerde. Voor de gemeente Amsterdam waren deze bevindingen aanleiding om de stekker uit een proef met Copilot te trekken.
‘Niet veilig en verantwoord’
‘De uitkomsten van de DPIA bevestigen onze zorgen over de inzet van Microsoft Copilot. De geïdentificeerde risico’s maken dat deze technologie op dit moment niet veilig en juridisch verantwoord binnen onze organisatie kan worden toegepast,’ laat Amsterdam weten.
‘Daarom hebben we besloten onze pilot met Microsoft Copilot stop te zetten en de technologie voorlopig niet te implementeren. We sluiten ons aan bij het standpunt van SLM Rijk dat Microsoft eerst concrete stappen moet zetten om deze risico’s weg te nemen.’
Ondervangen of accepteren
Gemeenten staan volgens de VNG voor de afweging wat te doen met de risico’s die volgen uit de privacytoets. Doorgaan met Copilot betekent dat de risico’s moeten worden ondervangen of bewust worden geaccepteerd.
De gemeentelijke informatiebeveiligingsdienst (IBD) bevestigt dat de risico’s die SLM Rijk blootlegde, ook impact kunnen hebben op hoe gemeenten Copilot gebruiken. ‘Gemeentelijke organisaties moeten maatregelen nemen om onnodige opslag van gegevens te beperken, zeker omdat niet duidelijk is hoe lang Microsoft deze gegevens opslaat,’ aldus de waakhond voor lokale informatieveiligheid.
Gevoelige data labelen
Copilot ‘kan en zal geen rekening houden’ met de aard van gevoelige data indien de gegevens niet als zodanig zijn gelabeld in de lokale informatiehuishouding. ‘Omdat veel gemeenten bovendien verouderde informatie opslaan, brengt de verwerking van onjuiste gegevens door Copilot volgens de DPIA aanzienlijke risico’s met zich mee.’
Problemen met privacy spelen bijvoorbeeld als gebruikers van Copilot gebruik willen maken van hun recht op inzage in de persoonlijke gegevensverwerking. Microsoft geeft dan ‘incomplete en onbegrijpelijke resultaten terug’. Verlies van controle over data en zelfs sociaaleconomisch nadeel zouden op de loer liggen voor betrokkenen als gemeenten te veel blindelings vertrouwen op de AI-antwoorden.
Geef een reactie