Organisaties die hoogrisico-AI-systemen inzetten, moeten vooraf gaan beoordelen welke gevolgen deze systemen kunnen hebben voor de grondrechten van mensen. De verplichting geldt onder meer voor overheidsorganisaties, private organisaties die publieke diensten leveren en organisaties die bepaalde systemen voor de beoordeling van financiële risico’s gebruiken. Vanaf december 2027 gelden hiervoor specifieke verplichtingen.
Vanaf december 2027 moet vooraf worden beoordeeld welke gevolgen een AI-systeem kan hebben voor de grondrechten van mensen. De verplichting om een FRIA uit te voeren staat in de Europese AI-verordening. De voorafgaande beoordeling betreft de mogelijke gevolgen voor grondrechten van mensen. De naam voor zo’n beoordeling is fundamental rights impact assessment, afgekort FRIA. In het Nederlands wordt ook de term grondrechteneffectbeoordeling gebruikt.
Beoordeling vooraf
Met een FRIA worden vooraf mogelijke gevolgen van bepaalde hoogrisico-AI-systemen voor grondrechten in kaart gebracht. Daarbij worden onder meer het recht op gelijke behandeling, menselijke waardigheid, privacy en toegang tot essentiële voorzieningen genoemd.
Bij deze beoordeling moet ook worden beschreven hoe risico’s worden beperkt. Vervolgens moet over de beschreven risico’s worden gerapporteerd aan de toezichthouder.
De AP start een pilot rond de FRIA-rapportage en adviseert nu al te beginnen met voorbereiden. De pilot is volgens de AP geen audit, inspectie of handhavingstraject.
Uitleg en voorbereiding
De AP biedt uitleg over het FRIA-vereiste in de AI-verordening en over een landelijke pilot waaraan kan worden deelgenomen. Volgens de AP dient die uitleg ter ondersteuning bij het opdoen van ervaring. De verplichting om een FRIA uit te voeren staat in de Europese AI-verordening. Hoewel de FRIA-verplichting pas vanaf december 2027 geldt, adviseert de AP nu al te beginnen met de voorbereiding op het uitvoeren ervan.
Pilot zonder handhaving
De AP start een pilot voor de FRIA-rapportage. Wie aan de pilot deelneemt, doet praktijkervaring op met het Europese template voor de FRIA-rapportage en krijgt feedback op de eigen aanpak. De AP benadrukt dat de pilot bedoeld is om van te leren. Het is nadrukkelijk geen audit, inspectie of handhavingstraject bij de organisatie.
Bron: Autoriteit Persoonsgegevens
Volg Security Management op LinkedIn
