Rondetafelgesprek #1: discriminatie door algoritmes

Reinier van Zutphen benadrukt dat er bewustzijn binnen de overheid moet zijn over het feit dat algoritmes kunnen discrimineren. In de praktijk ziet hij dat burgers vooral willen weten voor welke besluiten algoritmes gebruikt worden en bij wie ze kunnen aankloppen als ze tegen een probleem aanlopen. Het menselijke contact is erg belangrijk. Burgers willen kunnen begrijpen hoe de overheid algoritmes inzet, weet de ombudsman uit zijn praktijk. 

Juist in het scheppen van duidelijkheid schiet de overheid tekort, betoogt Bart Jan van Ettekoven. Vanuit de praktijk van de rechtspraak ziet hij dat het openbaar bestuur geen antwoord geeft op simpele vragen, zoals welke data gebruikt zijn of hoe een algoritme tot een besluit is gekomen. Daarom is volgens hem de human in the loop belangrijk: zorg ervoor dat er een mens tussen zit die controleert of het goed is gegaan en of het bij het doel van de wetgeving past. De ambtenaar moet vervolgens aan de burger in ‘gewone mensen taal’ kunnen uitleggen welke gegevens gebruikt zijn en hoe het algoritme tot een beslissing is gekomen.

Dat algoritmes niet feilloos zijn en tot onjuiste of ongewenste beslissingen kunnen leiden, blijkt uit de voorbeelden die de tafelgasten aandragen. Hanny Kemna refereert aan een column van Marietje Schaake (NRC van 21 januari “ Het algoritme is niet schuldig aan de prikorde”. Zij geeft het voorbeeld van een algoritme dat de prikvolgorde voor vaccinaties hielp bepalen. Veel mensen waren het niet eens met de uiteindelijke volgorde, en toen de makers van het algoritme nog eens goed naar het model keken, bleek het algoritme anders te functioneren dan zij bedoeld hadden.

Angeline van Dijk noemt een ander voorbeeld waarbij een algoritme de fout in ging: een algoritme in het Verenigd Koninkrijk had de voorspelling gemaakt dat er 17.000 mannen zwanger waren. Een overduidelijke fout die snel gespot is, maar dit is lang niet in alle gevallen zo makkelijk. Als de digitale dienstverlening van de overheid misloopt door fouten in algoritmes kan dat leiden tot een verlies van vertrouwen bij burgers en bedrijven. Goed toezicht is daarom belangrijk volgens Angeline van Dijk. Binnen de bestaande toezichthouders en inspectieraden is daarvoor voldoende kennis en expertise aanwezig. Angeline van Dijk pleit dan ook niet voor een Algoritme Autoriteit, maar voor nauwe samenwerking van de reguliere toezichthouders.

De gasten zijn het met elkaar eens dat de menselijke factor van belang is, en dat de overheid in simpele taal aan burgers moet kunnen uitleggen hoe de algoritmes tot beslissingen zijn gekomen. Hanny Kemna vult aan dat het belangrijk is om je bewust te zijn van het feit dat context rondom een algoritme steeds verandert, en om constant te evalueren of het algoritme nog wel werkt zoals het bedoeld is. Ook betoogt ze dat er bij de ontwikkeling van het algoritme nagedacht moet worden over de impact van het algoritme op mensen en waar het mis zou kunnen gaan. Daarom heeft de Algemene Rekenkamer een toetsingskader ontwikkeld, waarin ook ethische vragen aan de orde komen.

Dat er geen pasklare oplossing is voor de vraagstukken die algoritmes met zich meebrengen, blijkt wel uit de levendige discussie aan tafel. Ook komen er veel vragen binnen via de chat, die helaas lang niet allemaal behandeld kunnen worden tijdens het rondetafelgesprek.

Bart Jan van Ettekoven ziet in de verschillende initiatieven, in Europa en daarbuiten, dat we het eigenlijk wel met elkaar eens zijn wat de normen moeten zijn voor het verantwoord inzetten van algoritmes. Nu moeten die normen nog toegepast worden in de praktijk, zodat het proces voor burgers behoorlijk en fatsoenlijk is. Bart Jan van Ettekoven concludeert: werk aan de winkel!