‘Het internet: een vloek of een zegen?’ Zo’n 25 jaar geleden kreeg Rudy van Belkom een 10 voor dit werkstuk maatschappijleer. Inmiddels is hij directeur van de Stichting Toekomstbeeld der Techniek (STT), een stichting die de invloed van technologie op de samenleving onderzoekt en agendeert. Eerder onderzocht hij voor STT de toekomst van onze democratie en de toekomst van AI. Over de democratie in het digitale tijdperk schreef hij het – hoopvolle – boek ‘Alive and Clicking’. We spreken Rudy over de mogelijke invloed van AI op besluitvorming. Nu we AI steeds vaker inzetten in ons werk voor publieke opdrachtgevers, vinden we het belangrijk om ook uit te zoomen: wat zijn de ethische vragen die we onszelf moeten stellen? We willen niet alleen weten wat de rol van AI zou kunnen zijn in besluitvorming, maar juist wat de rol van AI zou moeten zijn.
Is AI een vloek of zegen?
“Je leest wel eens: AI is niet neutraal. Dat is niet helemaal waar: technologie zelf is neutraal, maar hoe we de technologie ontwikkelen en inzetten is dat niet. Denk aan het toeslagenschandaal: uit data kan blijken dat er in het verleden vaker iets fout gaat bij mensen met een dubbele nationaliteit. Maar dat betekent nog niet dat je dit als variabele kunt gebruiken. Dat is een vooringenomenheid die je inbouwt in het systeem. Want wat AI vervolgens doet is de impact enorm vergroten. AI is veel efficiënter dan mensen, dus zo’n systeem kan duizenden mensen onterecht raken. Een systeem maakt altijd fouten, het gaat erom hoe groot de foutmarge is die we als samenleving willen accepteren.”
Is AI dan eigenlijk een soort Maatschappelijke Kosten- en Batenanalyse (MKBA)?
“Ja! Alleen wordt deze analyse bij AI nauwelijks gemaakt. In ieder geval niet op een transparante manier. AI wordt vaak gezien als een soort natuurwet, een onvermijdelijke ontwikkeling waar we wel ‘iets’ mee moeten. Maar het is nog steeds een menselijke keuze of we het inzetten of niet. De vraag of AI wel de beste oplossing is wordt in bepaalde situaties te weinig gesteld.
“Een ander probleem is dat mensen zich achter AI kunnen verschuilen in een soort cirkelredenering: dit is de beste oplossing, want dat zegt het systeem. Als politici zich achter zo’n technologisch systeem verschuilen, dan raakt dat ook aan het vertrouwen dat mensen hebben in de overheid. Want het systeem geeft alleen maar antwoord op een vraag die jij gesteld hebt en gebruikt de data die jij er in hebt gestopt.
“Hoe dichter je bij de echte ontwikkelaars van AI komt, hoe minder spannend het wordt. Uiteindelijk verwerkt een algoritme grote hoeveelheden data – het is complexe statistiek, het gaat niet over robots met slechte intenties. Maar wat wel echt verandert, is de schaal en snelheid waarmee we onderzoek kunnen doen. En het zijn onze eigen keuzes die bepalen of AI een vloek of een zegen is.”
Natuurlijk moet je in de basis begrijpen hoe AI werkt. Maar het belangrijkste is dat je een moreel kompas hebt.
Hoe beïnvloedt AI besluitvorming?
“AI maakt en verspreidt desinformatie: we zien allemaal de bubbels op social media die invloed hebben op het stemgedrag van mensen. Maar dat is omdat social media-platforms een systeem ontwerpen dat jouw aandacht zo lang mogelijk vasthoudt en dat werkt extremen in de hand. Je kunt ook een systeem ontwerpen dat als doel heeft om de consensus te zoeken. vTaiwan, een participatieplatform dat in opdracht van de overheid is opgezet (door een ex-hacker), doet dat al. Met de open source-software poll.is zoekt AI naar gebruikersgroepen binnen de discussie over een thema: welke verschillende standpunten zijn er? Vervolgens analyseert het algoritme ook welke overlap er zit tussen die groepen. Zo is wetgeving bedacht om Uber te reguleren waar ruim 90% van de deelnemers achter staat. Wat zou er gebeuren als je de discussie tussen boeren en klimaatactivisten op zo’n manier bekijkt? Waarschijnlijk kom je erachter dat ze het over veel meer eens zijn dan je denkt.
“Zo’n online platform heeft ook voordelen ten opzichte van een klassieke participatiebijeenkomst in een zaaltje. Je kunt mensen bereiken die fysiek niet in staat zijn of geen tijd hebben om te komen. Of voor wie taal een barrière vormt. Je ziet dat vooral theoretisch opgeleiden goed in staat zijn om in een groepsdiscussie hun mening te uiten, omdat ze zo zijn opgeleid. Andere mensen denken er misschien liever even rustig over na. Je kunt dus heel andere mensen dan de usual suspects bereiken.”
Wat vind je van de manier waarop politiek Den Haag praat over AI?
“AI is nog niet geclaimd als links of rechts thema in de politiek. Dat is een teken van onvolwassenheid: politieke partijen en kiezers weten er vaak nog te weinig van af. Maar dat is niet per se een nadeel, want nu kun je vanuit de grondwaarden van partijen kijken naar hoe je technologie inzet voor de samenleving.”
Welke vaardigheden heb je nodig om AI goed in te zetten?
“Natuurlijk moet je in de basis begrijpen hoe AI werkt. Maar het belangrijkste is dat je een moreel kompas hebt. Als je een keuze maakt voor een tool, of als je een tool gaat maken dan is de eerste stap om je kritisch af te vragen of AI wel de juiste manier is om het probleem aan te pakken. Vervolgens is het cruciaal om met diverse groepen mensen om tafel te gaan zitten. Wat vind je belangrijk? Zelfsturende auto’s hebben bijvoorbeeld moeite om rolstoelgebruikers te herkennen in het verkeer. Dat was misschien wel anders geweest als de technologie was ontwikkeld met ervaringsdeskundigen erbij. Je moet eerst dat soort blinde vlekken blootleggen.”
Wat is de grootste bedreiging van AI?
“We hebben eigenlijk een verkeerde definitie gekozen. We maken nu systemen die net zo denken als wij, die we schaakwedstrijdjes tegen ons laten spelen. Terwijl je dan ook menselijke fouten uitvergroot. Veel slimmer zou het zijn als we AI als aanvullende intelligentie zouden ontwikkelen, juist om onze beperkingen aan te pakken. Ik gebruik wel eens het voorbeeld van een vliegtuig: die vliegen niet als vogels, maar ze gaan wel een stuk sneller.”