UU’er Jasper Kars: ‘Samenleving moet soms zeggen: dit AI-model gebruiken we niet’

Toen Jasper Kars vijf jaar geleden bij het ministerie van Binnenlandse Zaken & Koninkrijksrelaties ging werken, was AI “nog een niche, zeker binnen beleid”, vertelt hij in het historische pand van Bestuur- & Organisatiewetenschap (B&O) aan de Bijlhouwerstraat. 

Toch had AI toen al zijn belangstelling. “Tijdens mijn studies Politicologie en Data Science ben ik geïnteresseerd geraakt in hoe grote bureaucratieën worstelen met nieuwe technologieën. Aan de ene kant willen ze deze reguleren en aan de andere kant willen ze die zelf gebruiken voor hun eigen taken en om de bureaucratieën te verbeteren.” 

Eind 2022 kwam ChatGPT uit, waarmee generatieve AI voor een groot publiek toegankelijk werd. Ongeveer een jaar later kreeg Kars de mogelijkheid om naast zijn baan te promoveren. “Het was voor mij snel duidelijk dat ik onderzoek naar generatieve AI wilde doen. Op dat moment was het nog heel nieuw, maar ik wist dat het veel zou gaan betekenen. 

"Het is een ontwikkeling die de snelheid, schaal en manier waarop we informatie verwerken enorm verandert. Vrije informatie en open debat zijn fundamenten van onze democratie. In tijden waarin deze op veel plekken ter wereld onder druk staat, is dit een ware test.” 

Wisselwerking
Kars onderzoekt hoe AI de democratie verandert en hoe de democratie de ontwikkelingen op het gebied van AI probeert te sturen. Hij kijkt hierbij naar vier domeinen: de inrichting van ons staatsbestel, de politiek, de vertaling naar beleid en het maatschappelijke en politieke debat. 

AI en democratie kunnen volgens Kars “botsen of elkaar versterken”. Zeker autonome AI-systemen die hele overheidsprocessen kunnen overnemen, zijn volgens hem een steeds groter risico voor de democratie, omdat het hierdoor moeilijk te herleiden is hoe democratische besluiten tot stand zijn gekomen. 

Maar hij denkt ook dat de overheid met behulp van AI haar dienstverlening kan verbeteren en de democratie kan versterken. Denk bijvoorbeeld aan het sneller afhandelen van bezwaarprocedures of Woo-verzoeken en het schrijven van begrijpelijkere brieven op verschillende taalniveaus.

“Ik geloof niet in technologisch determinisme, waarin technologie wordt gezien als de drijvende kracht achter maatschappelijke veranderingen. Het is een samenspel tussen technologie en sociale factoren dat bepaalt hoe een technologie uiteindelijk zijn weg vindt in de samenleving.” 

Politiek
Uit onderzoek van de Universiteit van Amsterdam blijkt dat tijdens de gemeenteraadsverkiezingen van dit jaar veel gebruik is gemaakt van generatieve AI. Partijen verspreidden in hun campagne AI-gegenereerde beelden, waaronder deepfakes en grafieken. 

Ook gebruiken politieke partijen in Nederland generatieve AI bij het opstellen van moties. “Van zeker één motie is bekend dat die met generatieve AI is opgesteld, omdat de indiener daarover transparant was. Vermoedelijk wordt AI vaker gebruikt om moties op te stellen, vragen te stellen of Kamerbrieven te schrijven, maar dat is moeilijker te zeggen, omdat partijen daar niet transparant over zijn."

Hij zegt dat het problematisch is wanneer AI grote delen van het democratisch proces overneemt. "Zo kan het indienen van een groot aantal vragen door een willekeurig gemeenteraadslid – die met behulp van AI in een handomdraai zijn opgesteld – het bestuur en de ambtelijke organisatie zwaar onder druk zetten. Dan is het niet meer de gekozen volksvertegenwoordiger die het werkelijke politieke handwerk verricht, maar een AI-systeem."

Processen overnemen
Kars ziet ook dat de overheid, waaronder uitvoerende instanties en gemeenten, meer gaat experimenteren met AI. Zo gebruiken overheidsorganisaties chatbots voor het eerste contact met burgers. “Daarnaast zetten gemeenten AI in om te achterhalen welke mensen niet worden bereikt met bepaalde sociale regelingen, terwijl ze daar wel recht op hebben.”

Dit zijn relatief laagdrempelige toepassingen, maar volgens Kars kunnen bepaalde toepassingen van AI door de overheid “grote implicaties voor de democratie hebben”. Vooral bij autonome AI-systemen, ook wel agentic AI genoemd, die in staat zijn volledige processen over te nemen. 

Ook bij de overheid wordt hier inmiddels mee geëxperimenteerd, zo deed de Belastingdienst bijvoorbeeld recent onderzoek naar de mogelijkheden ervan. De overheid moet ervoor zorgen dat “processen goed herleidbaar blijven en ze niet afhankelijk wordt van systemen”, zegt Kars. 

Discriminatie door AI
Bij autonomere AI-systemen is herleidbaarheid lastiger en dat is een gevaar voor onze democratie. “Het is in de democratie een basisvoorwaarde dat burgers, journalisten of onderzoekers informatie moeten kunnen krijgen over de besluiten van de overheid”, zegt Kars. “Als besluiten niet meer transparant zijn, kun je als burger niet goed je recht halen.” 

Maar ook bij het gebruik van meer simpele algoritmes kan het misgaan, zoals bijvoorbeeld bij de toeslagenaffaire en bij studenten die door DUO gecontroleerd werden op fraude. Burgers met een migratieachtergrond werden vaker gecontroleerd. “We zien dat bij verkeerd gebruik van AI minderheden vaak de dupe zijn, terwijl de overheid niet bevooroordeeld mag zijn. Alle burgers zijn voor de wet gelijk. Belangrijke democratische waarden als rechtvaardigheid, gelijke behandeling en participatie komen anders in het geding.” 

Goedgeïnformeerde burger 
Daarnaast heeft de opkomst van generatieve AI volgens Kars een grote impact op de overheidscommunicatie. “We zien dat het aantal bezoekers van overheidswebsites afneemt. Mensen vinden door chatbots op een andere manier hun informatie en hoeven bijvoorbeeld niet meer naar de officiële overheidswebsite te gaan om een antwoord op hun vraag te krijgen. Daarmee zijn overheden voor hun online communicatie met burgers voor een groot deel afhankelijk van vooral grote big techbedrijven die de informatiekanalen – sociale media of chats met AI-systemen – in handen hebben.” 

Volgens Kars is het belangrijk dat de overheid haar burgers rechtstreeks bereikt en niet via AI-systemen. “Als de manier van informatieverstrekking wezenlijk verandert, betekent dat ook veel voor een democratie”, zegt hij. “Een gezonde democratie vereist dat mensen geïnformeerd kunnen meedoen, bijvoorbeeld door te stemmen, deel te nemen aan burgerparticipatie of het maatschappelijke debat. Om een goed afgewogen keuze te maken, zijn burgers afhankelijk van nieuwsmedia, politieke partijen en de overheid zelf.” 

Social media
Ook het publieke debat zelf is steeds meer verschoven naar sociale media. “Je zou kunnen zeggen dat het internet een zegen was voor een open en vrij debat, want iedereen kreeg opeens de kans om zijn stem te laten horen. De realiteit is dat de algoritmes en AI van sociale media bepalen wat wel en niet wordt getoond, waarbij sensationele en extreme content veelal voorrang krijgt. Dat is koren op de molen van de flanken met hun extreme uitingen.” 

Sociale mediabedrijven nemen volgens hem onvoldoende verantwoordelijkheid. “Veel des- en misinformatie wordt niet door de moderatie van sociale mediabedrijven geblokkeerd. Generatieve AI werkt als een soort doping: het maakt het heel makkelijk om desinformatie te maken en een desinformatiecampagne te starten en holt ondertussen het vertrouwen in het democratisch proces verder uit”, zegt Kars. “Bij de afgelopen Tweede Kamerverkiezingen zagen we een toename in de verspreiding van AI-gegenereerde mis- en desinformatie bedoeld om politieke tegenstanders zwart te maken. Dat is heel zorgwekkend.” 

Kansen
Kars ziet niet alleen gevaren voor de democratie. Als AI op de juiste manier wordt ingezet, kan de technologie de democratie ook versterken. De overheid kan AI inzetten om haar dienstverlening te verbeteren. 

Daarnaast kan AI grote hoeveelheden informatie snel verwerken en daarmee helpen bij beleidsvorming en als hulpmiddel bij coalitieonderhandelingen. Ook kan het nieuw beleid met eerder gemaakt beleid vergelijken. “Je kan de uitgebreide kennis van de overheid beter benutten”, zegt Kars. “Bij onderhandelingen over coalitieakkoorden kan AI belangrijke documenten en lopende afspraken rondom een beleidsonderwerp in kaart brengen, een voorzet doen voor het vinden van consensus of nieuwe voorstellen aandragen als een onderhandeling dreigt vast te lopen.” 

Daarnaast kunnen politici AI gebruiken om tot genuanceerdere inzichten te komen. “Als je alleen de Volkskrant of de Telegraaf leest, is je informatievoorziening beperkt. AI kan uit allerlei internetbronnen  – en niet alleen de meest bekende – inzichten vergaren. Het debat in de samenleving speelt zich in steeds grotere mate online af en alternatieve media worden populairder. Voor politici is het belangrijk om voeling te hebben met de samenleving. AI kan je een beter beeld geven van dat heel brede palet aan meningen. Tegelijkertijd vraagt dat wel om een nog kritischere omgang met bronnen door politici, omdat online informatie ook onjuist, misleidend of doelbewust gemanipuleerd kan zijn. Iets dat met de opkomst van AI alleen maar eenvoudiger is geworden.”

Toezicht op AI 
Om AI als overheid of andere (democratische) institutie in te kunnen zetten, moet volgens Kars aan bepaalde voorwaarden worden voldaan en moeten er vangrails zijn als AI uit de bocht vliegt. Zo is een goede AI-tool noodzakelijk. Kars: “AI is niet neutraal. Hoewel het onmogelijk is om AI volledig neutraal te maken, moet in een AI-model dat gevolgen kan hebben voor bredere groepen in de samenleving niet gebaseerd zijn op een eenzijdig wereldbeeld.

“Het AI-model moet zo getraind zijn dat het in lijn is met wat een bepaalde gemeenschap of samenleving belangrijk vindt. Daarnaast moet de inzet van AI rechtmatig zijn. Goed toezicht, zowel intern bij de organisatie die het inzet als door onafhankelijke toezichthouders, daarop is daarbij een belangrijke voorwaarde.” 

Het is volgens Kars noodzakelijk dat we in de samenleving en de politiek discussie voeren over hoe we met AI willen omgaan. Zolang daar nog geen duidelijk antwoord op is en de voorwaarden voor veilige AI nog niet breed worden omarmd, pleit hij ervoor om de verdere ontwikkeling van AI kritisch te blijven volgen. “Dan kan het soms ook zijn dat we als samenleving zeggen: dit AI-model is nu niet rijp om gebruikt te worden, het is potentieel te ontwrichtend. Deze afweging moet alleen wel liggen bij volksvertegenwoordigers en niet bij grote bedrijven die AI ontwikkelen. Deze balans is in het AI-tijdperk nu nog zoek.”