Rondetafelgesprek #2: controle van algoritmes

De vraag van dagvoorzitter Barry Derksen is of er meer controle op algoritmes nodig is. Controle is volgens Mona de Boer een instrument om grip te hebben op nadelige effecten. Wanneer de impact van in dit geval algoritmes significant is, wil je dat kunnen beheersen. De vraag is vooral op welke wijze die controle het beste vorm te geven is. Volgens Bart de Jongh hebben we hier meteen een complex vraagstuk te pakken. Het onderzoek van de Algemene Rekenkamer en een congres als dit zijn volgens hem een start. Ook omdat het de complexe materie enigszins tastbaar maakt en het toetsingskader concrete handvatten biedt om algoritmes te beoordelen. Volgens Bart de Jongh ontbreekt momenteel rond algoritmes vaak nog het multidisciplinaire overzicht.

Ook Mona de Boer ziet het nu ‘misgaan’ in de controle door het ontbreken van een multidisciplinaire benadering. Het belangrijkste hierbij is bewustwording over de impact van algoritmes. Daarnaast dient er een basisniveau van kennis te worden ontwikkeld, waardoor je weet wanneer je expertise nodig hebt. Het bijspijkeren van kennis is niet alleen binnen de overheid nodig, maar ook binnen het bedrijfsleven en voor Tweede Kamerleden. Op dit moment ontbreekt botweg de kennis om goed te kunnen controleren.
 

Kees Verhoeven sluit zich aan bij deze stelling: “kennisontwikkeling is de open deur waar we eerst allemaal doorheen moeten”. Hij spreekt zijn zorgen uit over de taakverdeling rond algoritmes: er zijn momenteel veel verschillende wetten en organisaties die een stukje verantwoordelijkheid of toezicht regelen, waardoor het toezicht en de sturing op algoritmes versnipperd is. Verhoeven lepelt qua wetgeving bijvoorbeeld op dat er de AVG is voor privacy-aspecten, de Algemene wet bestuursrecht voor totstandkoming van regelgeving en de wet Politiegegevens voor taken en inzet data bij de politie. Probleem is dat door de versnippering er een gebrek aan verantwoordelijkheid ontstaat. Volgens Kees Verhoeven wordt er bij oplossingen (over verantwoordelijkheid) in het digitale domein snel aan eigendom gedacht, als er maar iemand de baas van is. Maar eigendom van data en algoritmes is ingewikkeld, zeker met algoritmes die deels zelflerend zijn. In plaats van eigendom ziet hij liever een kijkje onder de motorkap: transparantie en uitlegbaarheid hoe algoritmes werken.

Geconcludeerd wordt dat het stimuleren van kritisch en analytisch vermogen rond dit onderwerp gewenst en noodzakelijk is, maar de vraag blijft staan hoe we dit vermogen precies gaan ontwikkelen en bevorderen. Bart de Jongh stelt dat iedere toezichthouder op zijn eigen domein over algoritmes kennis moet hebben. Je wordt namelijk vroeg of laat met algoritmes geconfronteerd en dan ‘moet’ je de kennis gewoon in huis hebben.

Ten slotte observeert Mona de Boer dat in de laatste jaren met name de drempel om algoritmes in te zetten lager is geworden. Algoritmes fungeren steeds meer als ‘legoblokjes’: je kan bij wijze van spreken met een paar bouwstenen al een model maken. Daarin schuilt ook het gevaar: het is en blijft daarom van cruciaal belang dat het bouwen van een model met een multidisciplinair team gebeurt en op kritische en gestructureerde wijze.

Naar het volgende programmaonderdeel