Rondetafelgesprek #3: afsluitende reflectie op de middag
Aan het afsluitende rondetafelgesprek nemen deel Hanny Kemna (Algemene Rekenkamer, collegelid in buitengewone dienst), Angeline van Dijk (Agentschap Telecom, directeur-hoofdinspecteur), Bart de Jongh (Auditdienst Rijk, directeur Kennis & Ontwikkeling), en Kees Verhoeven (Tweede Kamerlid, D66).
Gespreksleider Barry Derksen begint het gesprek met een voorbeeld uit de film The Social Dilemma. Hierin worden twee industrieën genoemd met als afnemer ‘de gebruiker’: IT en illegale drugs. Dit roept de vraag op: worden wij niet verslaafd aan algoritmes? Het brengt een interessante discussie op gang. Kees Verhoeven maakt de parallel met de mens als algoritme: de mens wordt gestuurd door bepaalde verlangens, waar de algoritmes vervolgens weer op inspelen. De gepersonaliseerde meldingen op websites en apps kunnen leiden tot een fysieke reactie van de mens, waar je verslaafd aan kunt raken. Angeline van Dijk ziet juist de voordelen van algoritmes die inspelen op persoonlijke behoeftes. Door microtargeting krijgen mensen heel snel de juiste informatie voorgeschoteld, wat erg handig kan zijn.
De discussie verschuift naar nieuwe technologieën waar algoritmes een rol in spelen. De termen vliegen voorbij: Deep Fake, GPT-3, Natural Language processing. Het roept de vraag op hoe de Tweede Kamer deze ontwikkelingen bij kan benen. Kennis van nieuwe technologieën en algoritmes, bij zowel ambtenaren als Kamerleden, wordt benoemd als een aandachtspunt. Angeline van Dijk benadrukt het belang van kennisoverdracht, zodat nieuwe Kamerleden voortvarend aan de slag kunnen gaan. Toezichthouders, inspectiediensten en Hoge Colleges van Staat moeten de handen ineenslaan om de Kamer hierbij te helpen.
“Allerlei organisaties, zoals die vandaag hier aan tafel zitten, moeten helpen om de nieuwe Kamerleden klaar te maken voor dit vraagstuk”
Richting het einde van het digitale evenement zijn er nog zo’n 250 kijkers in de Zoom-meeting. De vraag wordt gesteld of ambtenaren algoritmes kritischer moeten gaan beoordelen. Hanny Kemna vindt van wel, en stelt dat een ambtenaar de tijd en ruimte moet krijgen om kritisch naar het advies van een algoritme te kijken, te beoordelen of dit nog steeds conform de bedoeling van toepasselijk beleid/wetgeving is en er zo nodig van af te wijken. Bart de Jongh ziet ook een risico in de sturende werking van algoritmes op het werkproces. Ambtenaren moeten het algoritme daarom “een beetje wantrouwen”. Een belangrijke opgave, zeker nu er steeds complexere algoritmes ingezet worden waarbij het niet meer zo transparant is hoe de uitkomst tot stand is gekomen.
Ambtenaren moeten het algoritme een beetje gaan wantrouwen, om goed hun werk te kunnen verrichten.