NWO verbiedt gebruik van AI door beoordelaars

Artificial intelligence-programma’s zoals ChatGPT en Perplexity kunnen zinnig klinkende tekst produceren op basis van taalmodellen. De mogelijkheden lijken eindeloos. Zulke kunstmatige intelligentie gaat vermoedelijk allerlei gevolgen voor de samenleving hebben.

Maar bij het beoordelen van onderzoeksvoorstellen mogen medewerkers van NWO zulke software niet gebruiken, staat nu in een voorlopig standpunt. Alle documenten die de referenten, commissieleden en juryleden krijgen, zijn vertrouwelijk. Als je ze upload naar een AI-programma, kan dat de geheimhoudingsplicht schenden.

Transparant
Het standpunt is dinsdag op de NWO-website geplaatst. Wetenschappers mogen voor hun onderzoekswerk wél gebruik maken van van generatieve AI, “gezien de mogelijkheden en het ontwikkelingspotentieel”. Zolang ze maar transparant en controleerbaar te werk gaan.

NWO-bestuurslid Antal van den Bosch, hoogleraar aan de Universiteit Utrecht, is expert op het gebied van taal en kunstmatige intelligentie. “Hier trekken we een lijn”, zegt hij op de website van NWO, “maar tegelijk zien we nu en op de lange termijn grote mogelijkheden voor het vakgebied AI zelf en voor brede toepassing van AI in de wetenschap.” 

Tegelijkertijd zitten er “problematische aspecten” aan de technologie. Ook die noemt hij “een wetenschappelijke uitdaging”.

De voorlopige richtlijn kan veranderen of meer nuance krijgen. NWO heeft een werkgroep ingesteld voor het nieuwe AI-beleid. In de tweede helft van 2024 moet dat beleid klaar zijn.