Hoogleraar Filosofie Jan Broersen:
‘Nooit gedacht dat ik AI als bondgenoot zou zien in de strijd tegen klimaatverandering’
Privéfoto Jan Broersen
“Ik probeer dingen altijd vanuit een andere invalshoek te benaderen en houd er niet van om anderen na te praten”, zegt Broersen een paar dagen na zijn drukbezochte lezing op het Night at the Library Festival.
Daar vertelde hij dat generatieve AI-chatbots zoals ChatGPT, in potentie de juiste informatie over klimaatverandering toegankelijker kunnen maken. Dat zou tot gevolg kunnen hebben dat mensen bereid zijn meer te doen om de opwarming van de aarde tegen te gaan. “Hoe belezen je ook bent, je komt nooit in de buurt van de miljarden teksten waarop een groot taalmodel is getraind.”
Volgens Broersen worden extreme meningen, complottheorieën en valse verhalen statistisch gezien vaak gecompenseerd bij het trainen van generatieve AI-chatbots. “Grote taalmodellen worden getraind op basis van zoveel kennis dat vooroordelen op de een of andere manier worden overtroffen. Ze kunnen fouten maken, maar mensen maken vaker fouten omdat zij makkelijker te beïnvloeden zijn. Hun mening is op veel minder informatie gebaseerd.”
Beïnvloeding chatbots
De vraag is om het niet mogelijk is voor een bedrijf om zijn AI te trainen om bepaalde standpunten of bronnen meer gewicht te geven? Volgens Broersen kan dit wel maar is dit zeker niet gemakkelijk. “Nadat het model is getraind op miljarden teksten, kan een bedrijf specifieke prompts geven, om de chatbot bijvoorbeeld politiek te kleuren, maar dan moet je vechten tegen alle kennis die zo’n chatbot al heeft opgedaan.”
Als voorbeeld noemt Broersen Grok, de AI-bot van Elon Musk die zich bij zijn eerste deelname aan X in 2023 consequent aansloot bij de wetenschappelijke consensus over klimaatverandering. Hij noemde Musk zelfs de grootste verspreider van verkeerde informatie over klimaatverandering. Nu is Grok naar verluidt meer geneigd om klimaatverandering te ontkennen dan zijn concurrenten van OpenAI, Microsoft en Google.
Bondgenoot
Broersen had nooit gedacht dat hij AI zou aanbevelen als bondgenoot in de strijd tegen klimaatverandering, want hij weet ook dat AI het milieu schaadt. Het is een energieslurper en stoot veel kooldioxide uit. Daarbij zijn de belangrijkste AI-aanbieders in handen van grote techbedrijven, waarvan er veel op één lijn zitten met Donald Trump, die de Verenigde Staten heeft teruggetrokken uit het klimaatkkoord van Parijs en meer olie wil oppompen. Maar de filosoof kan niet anders dan ook de zonnige kant van AI zien in relatie tot het klimaat.
“Het is een positieve ontwikkeling dat mensen in contact kunnen komen met iets dat zoveel kennis heeft. Je kunt kunstmatige intelligentie natuurlijk niet in alles vertrouwen, maar gemiddeld genomen kan generatieve AI een positieve invloed uitoefenen op gebruikers, vooral op degenen die veel gebruik maken van sociale media.”
Hij hoopt dat mensen die via chatbots meer te weten willen komen over klimaatverandering, de wetenschappelijke consensus meekrijgen en tot actie overgaan om de opwarming van de aarde tegen te gaan, zoals door te stemmen op politici die het beste voor hebben met het klimaat. Ook politici die gebruik maken van tools zoals ChatGPT om documenten te beoordelen, te brainstormen, zich voor te bereiden op een debat en om de gevolgen van beleid te evalueren, zouden door AI beïnvloed kunnen worden om de wetenschappelijke consensus te volgen.
Milieu-impact en zeepbel
Broersen weet niet of dit voordeel opweegt tegen het nadeel van AI-gebruik. Hij denkt dat de AI-zeepbel in de nabije toekomst uiteenspat waardoor er maar een paar AI-tools blijven bestaan en zo de impact op het milieu minder groot zal zijn.
"Er worden nu miljarden en miljarden geïnvesteerd in AI. Ik denk dat dit een kaartenhuis is dat op een gegeven moment zal instorten. Want waar gaan al deze mensen hun AI-tools op trainen? We produceren wel nieuwe data, maar niet in een tempo dat overeenkomt met de investeringen die worden gedaan in AI. Veel bedrijven zullen failliet gaan.“
De wetenschapper zegt dat het onmogelijk is te voorspellen hoe de zaken zullen verlopen, maar blijft optimistisch en verwijst daarbij naar filosoof Karl Popper. “Die zegt dat optimisme leidt tot hoop, dat hoop leidt tot actie en actie kan leiden tot oplossingen. Dit wordt bevestigd door de informatica. Algoritmen die kansen analyseren, kunnen worden getraind met optimistische of pessimistische waarden. De optimistische kijken vooruit: als iets veelbelovend lijkt, slaan ze die richting in. Dat kan natuurlijk helemaal verkeerd zijn, maar ze zijn daardoor wel actiever.”
Wetenschappers hebben de opdracht om de samenleving te informeren over ontwikkelingen op hun vakgebied, en over mogelijke gevaren voor de toekomst. Klimaatwetenschappers doen dit bijvoorbeeld door het publiceren van IPCC-rapporten, die telkens het gevaar voor de klimaatverandering inzichtelijk maken. De wereld warmt in snel tempo op, en als we niet snel maatregelen nemen, dan kan de opwarming wel eens onomkeerbaar worden. Belangrijke bijdrage aan de opwarming is de stijgende energiebehoefte die vooruitgang in hernieuwbare energie teniet lijkt te doen. De laatste tijd is er een hevige discussie ontstaan over de bijdrage van AI hieraan. De big-techbro's geven ondanks aansporingen vanuit de EU geen inzicht in het verbruik van AI, maar speurwerk vanuit de VU Amsterdam (Alex de Vries-Gao) laat zien, dat dit niet langer verwaarloosbaar is. Het verbruik heeft ondanks de onzekerheid over de groei van AI nog lang niet zijn plafond bereikt. Dat voorspelt weinig goeds voor de klimaatverandering, hoe je het went of keert.
Jan Broersen ziet in de DUB als rasechte optimist de voordelen van AI voor klimaatverandering. Met AI zullen mensen beter geïnformeerd raken over de klimaatverandering. Vooroordelen zullen "op de één of andere manier worden overtroffen", zoals hij laat weten in het DUB artikel. Helaas wordt de "manier" niet verder verduidelijkt. Feit is dat vandaag elke gebruiker van AI door het invoeren van de juiste prompt in een AI programma bevestigt kan worden in het idee, dat de wereld plat is, of dat de maanlanding nooit heeft plaatsgehad. De LLM's worden gevoed door de big techbro's, en als zij willen dat voor de rest van de wereld alleen maar klimaat-ontkenners in hun zoekmachines boven komen drijven, dan zal dat gebeuren.
Het probleem van AI is dat je de antwoorden van de zoekmachines niet zonder meer kan vertrouwen en dat je een expert moet zijn om het kaf van het koren te kunnen scheiden. Een leek met de intentie om AI te gebruiken om zijn mening te vormen over klimaatverandering zal onherroepelijk verdwaald raken in de tegenstrijdige resultaten. Hij heeft niet de mogelijkheid om in zijn direct omgeving door een klimaatwetenschapper de antwoorden te laten duiden, en zal ten einde raad tot de slotsom komen, dat het allemaal niet duidelijk is en daardoor best wel meevalt.
Dat Jan Broersen een optimist is, dat is hem te prijzen. Maar dat hij via de DUB laat weten, dat hij AI als een bondgenoot ziet in de strijd tegen klimaatverandering zonder de nodige onderbouwing, gaat veel erg ver. Mensen kijken in het algemeen op tegen hoogleraren, en als een hoogleraar zegt, dat het wel meevalt, dan wordt dat snel geloofd. Het omvallen van verschillende AI bedrijven in de toekomst gaat niet leiden tot een afname van AI diensten, enkel het versterken van het monopolie van een paar Amerikaanse bedrijven over datgene dat we in de toekomst als "waar" gaan ervaren.
Tot slot haalt Broersen in het DUB artikel een uitspraak van Karl Popper volledig uit zijn verband om zijn optimisme te legitimeren. Dat geeft mij de gelegenheid om in het verband met de denkwijze van Broersen een uitspraak van Pauli te gebruiken: "Not even wrong".