Directe discriminatie

Risico

Handelen in strijd met artikel 1 uit de Grondwet (GW)/artikel 14 Europees Verdrag voor de Rechten van de Mens (EVRM) door directe discriminatie.

Onderzoeksvraag

Is er geen sprake is van onacceptabele directe discriminatie door het algoritme, zoals vastgelegd in artikel 1 uit de Grondwet?

Beheersmaatregelen

Een afweging of de gebruikte kenmerken van het algoritme geschikt zijn om onderscheid mee te maken volgens artikel 1 van de Grondwet.

Een (statistische) onderbouwing dat de gebruikte kenmerken bijdragen aan de beoogde resultaten van het algoritme.

Inspectiestappen

Opzet

1. Stel vast dat beschreven is hoe wordt getoetst of de kenmerken van het algoritme rechtmatig zijn om onderscheid mee te maken, volgens artikel 1 van de Grondwet.
2. Stel vast dat beschreven is hoe (statistisch) wordt getoetst of de gebruikte kenmerken voldoende bijdragen aan de voorspellingen van het algoritme.

Mogelijke bronnen: DPIA/PIA/Werkinstructies/Vastgelegde uitgangspunten

Bestaan

1. Stel vast dat is getoetst dat de kenmerken van het algoritme rechtmatig bevonden zijn om onderscheid mee te maken, volgens artikel 1 van de Grondwet.
2. Stel vast dat (statistisch) onderbouwd is dat de gebruikte kenmerken voldoende bijdragen aan de voorspellingen van het algoritme.

Mogelijke bronnen: DPIA/PIA/Beleidsnota's/Modelevaluaties van het algoritme

Ethische principes