Presentatie rapport ‘Aandacht voor algoritmes’

Door Hanny Kemna (collegelid in buitengewone dienst) en Miranda Pirkovski (projectleider)

Miranda Pirkovski begint met een toelichting op het onderzoek. Ze legt uit dat de Algemene Rekenkamer met dit onderzoek in beeld wilde krijgen hoe algoritmes door ministeries gebruikt worden. De technologie is niet nieuw, maar door de toename van rekenkracht en data worden algoritmes steeds meer ingezet, ook binnen de overheid. Dit brengt risico’s met zich mee, en het onderwerp verdient daarom aandacht volgens haar: “Door de inzet van algoritmes is overheidshandelen vaak niet begrijpelijk voor burgers. Ook kunnen algoritmes en de data vooroordelen bevatten”.  

Onderdeel van dit onderzoek is de ontwikkeling van een toetsingskader om de kwaliteit en verantwoorde inzet van algoritmes in de praktijk te kunnen beoordelen. Projectleider Miranda Pirkovski licht toe: Het toetsingskader is ontwikkeld om een algoritme te toetsen op aspecten van sturing en verantwoording, model en data, de privacy-waarborgen, de kwaliteit van de IT general controls en ethische vragen. Het toetsingskader biedt een eerste handvat, met risico’s die we nu al zien. Het is beschikbaar voor iedereen. Zij geeft aan open te staan om hier verder mee te gaan en van te leren.

Rapport presentatie
©Algemene Rekenkamer

Hanny Kemna neemt het publiek daarna mee in de aanbevelingen die de Rekenkamer naar aanleiding van het onderzoek heeft gedaan. Zo moeten burgers inzicht in de toepassing van algoritmes kunnen krijgen en ergens terecht kunnen met hun vragen. Zij roept daarom op een loket in te richten, waarbij de burger op een makkelijke manier vragen kan stellen.

Na afloop van de presentatie nemen Miranda Pirkovski en Hanny Kemna plaats aan tafel bij dagvoorzitter Barry Derksen. Hij vraagt: “Jullie hebben een mooi toetsingskader ontwikkeld. Ben ik klaar als ik het toetsingskader gebruik? Kan ik het zien als een checklist?” Miranda Pirkovski geeft aan dat het toetsingskader is bedoeld voor controle achteraf. Maar uiteraard kan het ook nuttig zijn als kwaliteitseis aan de voorkant bij het bouwen van een algoritme. Onderzoeksvragen, risico’s en maatregelen zijn er immers in opgesomd en die zijn heel bruikbaar bij het maken van een algoritme.

Tot slot gaat Hanny Kemna in op de vraag wat de CIO’s binnen de rijksoverheid morgen moeten doen met betrekking tot algoritmes: “Realiseren hoe krachtig de rol van algoritmes binnen een proces is”. Ze benoemt dat het van belang is daar op een goede manier mee om te gaan, om niet alleen de kansen te zien om een proces goedkoper en effectiever te maken maar ook na te denken over de impact van een algoritme op de burgers die ermee te maken krijgen. Dat bewustzijn is belangrijk.