AI is een gevaar; hoe redden we de democratie?

Informatie die vrij toegankelijk is, en niemand die de mond gesnoerd kan worden. Kan het mooier? De introductie van het internet beloofde een bloeiperiode van belangrijke democratische waarden; ‘een digitaal Athene’ was aanstaande. Maar dat naïeve optimisme is inmiddels behoorlijk getemperd. 

Hoogleraar Publieke Innovatie Albert Meijer beleefde in 2006 zijn wake-up-call. Amerikaanse campaigners in Massachusetts legden hem toen uit hoe kiezers voor de gouverneursverkiezingen werden benaderd op basis van data over het merk van hun auto, de krant die ze lazen en hun postcode. “Van Russische trollenfabrieken met nepnieuws was toen nog niet eens sprake, maar die ontmoeting gaf me al wel te denken.”

Polarisatie als verdienmodel
De microtargeting op sociale media, maar bijvoorbeeld ook de meer recente introductie van ‘deepfakes’ hebben volgens Meijer geleid tot “een geërodeerde publieke sfeer”. Autoritaire staten vergroten hun machtspositie en techbedrijven mikken op online polarisatie als onderdeel van hun verdienmodel. Het is daardoor niet langer duidelijk wat feiten zijn en wat ‘te vertrouwen’ nieuwsbronnen zijn. 

Meijer: “We zullen die publieke ruimte terug moeten claimen.” Zijn hoop is gevestigd op het streven van de EU naar een digitale samenleving die uitgaat van waarden zoals vrije toegang tot zorg en onderwijs, onafhankelijke media en bescherming van de privacy. Europese plannen om met een eigen cloud-infrastructuur data van burgers beter te beschermen, juicht hij daarom toe. 

Ook is sterkere regulering volgens hem noodzakelijk. In de nieuwe Europese AI-act die strikte eisen stelt aan de systemen die binnen Europa gebruikt worden, ziet hij een eerste stap in de richting van een oplossing. “Bedrijven als Facebook, X, Google en TikTok zullen verantwoordelijkheid moeten nemen voor hun werkwijze.” Maar het is taaie materie, weet Meijer. Het gaat om enorme hoeveelheden data en de technologische ontwikkelingen gaan snel. Bovendien ontbreekt vaak capaciteit en expertise waardoor toezicht houden en handhaven niet eenvoudig is. “Het is duidelijk dat er nog vervolgstappen moeten komen, zowel op Europees als op nationaal niveau.”

De waarde van elkaar ontmoeten
Waar iedereen inmiddels inziet dat het niet gemakkelijk wordt om het publieke debat online te versterken, hopen sommige tech-optimisten nog wel steeds op een positief effect van AI op de democratische besluitvorming. In de VS doen wetenschappers met behulp van AI en virtuele games onderzoek naar de voorkeuren van burgers bij het verdelen van schaarse middelen, vertelt Meijer. Informatie hierover zou mogelijk tot transparantere besluitvorming kunnen leiden dan verkiezingen of politieke debatten.

De Utrechtse hoogleraar is uitermate sceptisch. Zo’n technocratische aanpak maakt burgers passief en kan bovendien gemakkelijk tot ongewenste resultaten leiden, denkt hij. “Voorkeuren van mensen liggen niet vast. Die kunnen veranderen als omstandigheden veranderen of als burgers andere argumenten te horen krijgen. Bovendien moeten we de waarde van het elkaar ontmoeten en met elkaar praten in het echte leven niet uit het oog verliezen.”

Foto: Shutterstock

Het gaat nog wel eens mis
In zijn eigen onderzoek kijkt Meijer vooral of democratische besluiten wel op een deugdelijke manier worden uitgevoerd. Zo analyseert hij onder meer hoe de Nationale Politie AI gebruikt en wat het effect daarvan is op individuele burgers. Dat het weleens misgaat, hoeft hij na alle media-aandacht rondom de toeslagenaffaire niemand meer uit te leggen. 

Volgens de bestuurskundige kunnen er op meerdere niveaus problemen optreden. Om te beginnen zetten technici soms algoritmen in zonder dat ze oog hebben voor de mogelijke politieke gevoeligheden. Zo ontstond onrust toen de politie data over etnische herkomst gebruikte in een systeem dat moest inschatten of mensen gewelddadig konden zijn. “Politici en technici zullen meer begrip van elkaars werk moeten krijgen”, concludeert hij.

Daarnaast zijn de bestuurlijke processen van overheidsinstanties niet altijd op orde. Zo is er soms onvoldoende oog voor het informeren en betrekken van burgers, of voor de privacy van die burgers. Meijer ontwikkelde met collega’s een Code Goed Digitaal Openbaar Bestuur (Codio, zie kader red.) die moet helpen de introductie van technische innovaties goed te laten verlopen. “Als een gemeente slimme camera’s wil gebruiken, dan moeten burgers wel weten wat dat voor hen kan betekenen.”

Maar het allerbelangrijkste blijft volgens Meijer dat overheidsinstanties scherp controleren dat het gebruik van algoritmen leidt tot het bedoelde resultaat, en dat er geen ongewenste neveneffecten optreden. “Het gaat immers om zelflerende systemen, er kunnen zomaar niet voorziene nieuwe patronen ontstaan.”

Bewust van risico’s
Als aan de drie voorwaarden die hij hierboven noemt, voldaan wordt, zegt Meijer zeker geen tegenstander van AI te zijn. Hij ziet inmiddels dat uitvoerende overheidsinstanties zoals de politie zich terdege bewust zijn van de mogelijke risico’s van discriminatie of privacyschending. Veel gemeenten hebben nu ook adviesraden om hen bij te staan. Zelf is hij voorzitter van de adviesraad van de gemeente Rotterdam.

Om zich heen hoort hij wel steeds vaker de klacht dat AI door overheden vooral wordt gebruikt om risicofactoren uit te sluiten of kwaadwillende burgers op te sporen, en veel minder om burgers tot ‘goed gedrag’ te verleiden. “Je kunt je inderdaad afvragen of er niet meer mogelijkheden zijn om met behulp van AI kwetsbare groepen te helpen. Zo maken veel burgers geen gebruik van subsidieregelingen waar ze wel recht op hebben. Ook weten we dat het niet-betalen van een zorgverzekering een eerste indicatie is voor schuldenproblematiek. AI zou mogelijk meer zicht op dat soort problematiek kunnen geven, en op de mensen die daarmee te maken hebben.”

Dat is voor Meijer een van de vragen voor de nabije toekomst: “Kan AI óók bijdragen aan méér sociale rechtvaardigheid?” 

Code Goed Digitaal Openbaar Bestuur 
Op verzoek van het ministerie van Binnenlandse Zaken ontwikkelde hoogleraar Publieke Innovatie Albert Meijer samen met zijn Utrechtse collega Erna Ruijer de Code Goed Digitaal Openbaar Bestuur (Codio). Binnen die code zijn dertig belangrijke publieke waarden gedefinieerd die kunnen worden beïnvloed als een overheidsinstantie een digitale innovatie, zoals generatieve AI, gebruikt. Voorbeelden van dergelijke waarden zijn non-discriminatie, privacy en toezicht. 

De code kan volgens Meijer lagere overheden, de politie en uitvoerende instanties helpen om bij concrete voorstellen te bepalen welke waarden mogelijk in het gedrang komen en wat er moet gebeuren om die te beschermen. Ook kan de code een hulpmiddel voor burgers zijn. Het maakt duidelijk wat zij kunnen verwachten van een overheid die AI gebruikt.

Dit artikel verscheen deze maand ook in Illuster, het alumniblad van de UU.

Hoogleraar Albert Meijer. Foto: Ivar Pel

Hoogleraar Albert Meijer wil met zijn werk laten zien dat de overheid door digitalisering keer op keer voor “nieuwe vragen” komt te staan. Er zijn volgens hem ook “nieuwe antwoorden” nodig als we de democratische rechtstaat willen behouden. Als wetenschapper onderzoekt hij dit op verschillende manieren, zo legt hij uit.

- Binnen zijn NWO-programma Algopol onderzoekt Meijer samen met collega’s en promovendi hoe het vertrouwen in de politie wordt beïnvloed door het gebruik van AI bij opsporing en preventie. Daarnaast maakt hij deel uit van het grote interuniversitaire en interdisciplinaire zwaartekrachtprogramma Algosoc. Dat programma bekijkt hoe publieke waarden kunnen worden beschermd en verbeterd als AI wordt ingezet door justitiële organen, media of instanties binnen de gezondheidszorg. 

- In zijn onderzoek probeert Meijer methodische vernieuwingen toe te passen. Daarbij kijkt hij voornamelijk naar de mogelijkheden van transdisciplinair onderzoek. Daarbij wordt de samenwerking gezocht met organisaties, belangengroeperingen en burgers. Over die nieuwe methoden publiceert hij met andere wetenschappers in internationale wetenschappelijke tijdschriften. 

“Met klassieke onderzoeksmethoden is het heel moeilijk om maatschappelijke impact te bereiken”, zo is zijn ervaring. “Ik probeer methoden te ontwikkelen waarbij dat beter lukt, bijvoorbeeld met living labs met partners uit het veld. De vraag is daarbij steeds hoe je tot robuuste en praktisch bruikbare kennis komt. Dat blijkt elke keer behoorlijk lastig, al was het alleen maar omdat je als onderzoeker vaak maar voor enkele jaren financiering krijgt voor een project, terwijl je een langdurige band en samenwerking wilt opbouwen.”

- Om met zijn inzichten bij te dragen aan de omgang met maatschappelijke vragen verricht Meijer vanuit USBO betaald advieswerk. Het ontwerpen van de eerder beschreven CODIO voor het ministerie van Binnenlandse Zaken is daarvan een voorbeeld. De gemeente Den Haag signaleerde aan de hand van de code bijvoorbeeld dat de introductie van cameratoezicht in Scheveningen tot privacyschending zou kunnen leiden. 

- Als expert zoekt hij de relatie met de praktijk ook op via persoonlijke betrokkenheid, bijvoorbeeld als voorzitter van de adviesraad van Rotterdam. Die gemeente werd eerder geconfronteerd met een kritisch rapport van de Rekenkamer. “Die werkzaamheden bieden mij rijke inzichten in hoe organisaties worstelen met de problematiek. Dat helpt mij weer in mijn onderzoek, én in mijn onderwijs aan studenten en aan professionals.”

- Ten slotte laat Meijer zich ook graag horen in het publieke debat. Zo gaf hij een lezing voor Studium Generale over de gevolgen van AI voor de democratie die hij verwerkte tot een artikel voor de website Sociale Vraagstukken. “Ik vind het belangrijk dat mensen begrijpen dat die moeilijke technische vraagstukken over dingen gaan die voor hen van belang zijn. Dat ze beseffen dat een deel van hun toekomst wordt bepaald door hoe we denken over technologie en hoe we ontwikkelingen sturen.”