Organisaties die bepaalde AI-systemen met een hoog risico gebruiken, moeten vanaf december 2027 vooraf onderzoeken welke gevolgen deze systemen kunnen hebben voor de grondrechten van mensen. Deze zogenoemde Fundamental Rights Impact Assessment (FRIA), of grondrechteneffectbeoordeling, is onderdeel van de Europese AI-verordening.
De verplichting geldt onder meer voor overheidsorganisaties en private organisaties die publieke diensten leveren en hoogrisico-AI inzetten. Ook publieke en private organisaties die bepaalde AI-systemen gebruiken om financiële risico’s van personen te beoordelen, kunnen met de verplichting te maken krijgen.
De Autoriteit Persoonsgegevens (AP) adviseert organisaties om niet tot 2027 te wachten, maar nu al ervaring op te doen met het uitvoeren van een FRIA. Hiervoor biedt de toezichthouder uitleg en kunnen organisaties deelnemen aan een landelijke pilot.
Gevolgen voor grondrechten vooraf beoordelen
Met een FRIA moeten organisaties vooraf onderzoeken wat de mogelijke gevolgen van een hoogrisico-AI-systeem zijn voor de grondrechten van mensen. Het kan bijvoorbeeld gaan om het recht op gelijke behandeling, menselijke waardigheid en privacy, maar ook om toegang tot essentiële voorzieningen.
Organisaties moeten daarnaast vastleggen welke maatregelen zij nemen om de vastgestelde risico’s te beperken. Ook moeten zij hierover rapporteren aan de toezichthouder.
AP: begin nu met voorbereiden
Hoewel de FRIA-verplichting pas in december 2027 ingaat, raadt de AP organisaties aan om nu al voorbereidingen te treffen. Door vroegtijdig met grondrechteneffectbeoordelingen te oefenen, krijgen organisaties beter zicht op de risico’s van hun AI-systemen en op de maatregelen die nodig zijn om deze te beheersen.
Ook kunnen zij zo inventariseren welke AI-systemen binnen hun organisatie onder de nieuwe verplichting vallen. Daarmee voorkomen organisaties dat zij pas vlak voor de invoering van de FRIA aan de nieuwe eisen moeten voldoen.
Geef een reactie