Indirecte discriminatie

Risico

Handelen in strijd met artikel 1 uit de Grondwet (GW)/artikel 14 Europees Verdrag voor de Rechten van de Mens (EVRM) door indirecte discriminatie.

Onderzoeksvraag

Is er geen sprake is van onacceptabele indirecte discriminatie door het algoritme, zoals vastgelegd in artikel 1 uit de Grondwet?

Beheersmaatregelen

Periodieke biastoetsen en fairness metrics om te toetsen of het algorimte indirect onderscheid maakt op basis van bijvoorbeeld migratieachtergrond, etniciteit, huidskleur, geslacht, leeftijd of seksuele geaardheid.

Een afweging van welke kenmerken getoetst moeten worden op indirecte discriminatie en een evaluatie van de uitkomsten van de discriminatietoetsen.

Inspectiestappen

Opzet

1. Stel vast dat bepaald is voor welke kenmerken wordt getoetst of er sprake is van indirecte discriminatie en waarom deze kenmerken.
2. Stel vast dat beschreven is hoe periodiek wordt getoetst of het algoritme indirect discrimineert op basis van de geselecteerde kenmerken.

Mogelijke bronnen: DPIA/PIA/Werkinstructies/Vastgelegde uitgangspunten

Bestaan

1. Stel vast dat periodiek is getoetst of het algoritme indirect discrimineert op basis van de geselecteerde kenmerken.
2. Stel vast dat is geëvalueerd of de indirecte discriminatie acceptabel is en of er eventueel verbeterplannen zijn opgesteld als de indirecte discriminatie niet acceptabel is.

Mogelijke bronnen: DPIA/PIA/Technische modeldocumentatie/Beleidsnota's

Ethische principes