Jarno Duursma: Algorithms in, Humans Out

Jarno Duursma, TEDx-spreker, tech-expert en trendwatcher, neemt het publiek aan de hand van prikkelende stellingen en tot de verbeelding sprekende voorbeelden mee in de wereld van razendsnelle technologische ontwikkeling. De focus ligt hierbij op de onvoorziene nadelige gevolgen en implicaties van technologische ontwikkeling. Technologie vervult namelijk behoeftes waarvan we een generatie geleden nog niet eens wisten dat we ze hadden. Laat staan dat we hierop konden anticiperen. Een treffend voorbeeld is de introductie van de smartphone. Hierdoor ontstond de nu alom bekende selfie-cultuur. Hij haalt in zijn presentatie ‘baanbrekende’ technologieën aan, bekijkt de voor- en nadelen van deze technologieën en haalt scenario’s aan met mogelijke onvoorziene omstandigheden.

Een van de voorbeelden die Jarno Duursma benoemt, is spraaktechnologie: ons allen bekend van bijvoorbeeld de Google Assistant en Amazon Alexa. Ook hier liggen onbedoelde gevolgen op de loer, want willen we bijvoorbeeld dat dit soort digitale spraakassistenten antwoord gaan geven op hele complexe vragen? Is het gewenst dat we dat antwoord neerleggen bij grote Amerikaanse techbedrijven? Spraaktechnologie beïnvloedt daarnaast ook onze sociale vaardigheden. De vraag is of we op termijn, zeker kinderen en ouderen, wel het verschil zien tussen een spraaksysteem en een menselijk karakter. De scheidslijn hiertussen wordt steeds dunner. Hij betoogt dat het uitspreken van dit soort mogelijke scenario’s cruciaal is, omdat het ons in staat stelt om er überhaupt over na te denken. Je treedt ermee buiten de comfortzone en leert ervan.
 

Jarno Duursma
©Algemene Rekenkamer

Om deze redenen en met de (onbedoelde) vergezichten vers in het achterhoofd is het goed om nu al na te denken over scenario´s. Scenario’s die wel en niet wenselijk zijn. De scheidslijn tussen echt en nep, oftewel synthetisch, wordt steeds dunner. Dit brengt niet alleen maar negatieve effecten met zich mee. Een positief voorbeeld is dat mensen met de ziekte ALS hun stem kunnen klonen met behulp van een toetsenbord. Deze ‘synthetische media’ kunnen een rijke voedingsbodem zijn voor nieuwe verdienmodellen. Maar het risico voor identiteitsfraude ligt op de loer: ben je bijvoorbeeld nog wel de eigenaar van je eigen stem?

Duursma prikkelt het publiek en de host met de stelling dat als je alles kunt klonen en met een toetsenbord kunt laten zeggen, dat je dan eigenlijk digitaal onsterfelijk bent. De vraag is en blijft hoe helder we de voor- en nadelen hebben. Hebben we niet heel veel mensen nodig die de onvoorziene nadelen hiervan nu al zien? Moeten we hierover binnenkort clausules laten opnemen bij de notaris? De conclusie is dat, als we kunstmatig intelligente software doorontwikkelen, we grote vragen dienen te stellen over hoe we de rol van technologie zien. Hoe willen we dat de wereld eruit ziet? En hoe houden we deze wereld vol spannende technologieën voor iedereen eerlijk? Dit kan alleen door een systeem te ontwikkelen waarbij AI in lijn blijft met wie wij als mensen (willen) zijn.