Drie uitdagingen voor het onderwijs door generatieve AI

Het is inmiddels algemeen bekend dat er studenten zijn die kunstmatige intelligentie gebruiken om hun onderwijsopdrachten te laten maken en die presenteren als hun eigen werk. Voor opleidingen is dit bijna niet te controleren en docenten weten daardoor ook niet of studenten het nodige leren. 

Voor docenten is het bijna niet hard te maken dat een student een tekst heeft ingeleverd die door generatieve AI zoals ChaptGPT is gemaakt. Examencommissies leggen zelden sancties op vanwege gebrek aan bewijs van dit type fraude. 

“De modellen zijn tegenwoordig zo knap dat die er zelfs menselijke fouten in kunnen zetten. Hoe moeten docenten dan nog controleren of het werk door de student is gemaakt?”, zegt vicedecaan onderwijs van de faculteit Recht, Economie, Bestuur & Organisatie Femke van Esch. “Er zijn momenteel geen technische middelen beschikbaar die plagiaat goed kunnen controleren.” Generatieve AI kan zelfs nieuwe plagiaatsoftware makkelijk omzeilen, zegt de vicedecaan die tevens voorzitter is van de stuurgroep AI geletterdheid (zie kader).

De stuurgroep is een van de AI-teams van docenten van de Universiteit Utrecht (UU) die werken aan een integraal AI-beleid voor de universiteit en nadenken over manieren waarop kunstmatige intelligentie in het onderwijs kan worden gebruikt. 

Controle en strenge regels zijn volgens Van Esch niet de oplossing. Sommige docenten vragen aan studenten om hun eindproduct op te breken in kleinere onderdelen en deze als meerdere conceptversies in te leveren. Het is voor docenten lastiger te controleren of studenten ongeoorloofd AI hebben gebruikt als zij een groot geschreven eindproduct inleveren. Van Esch: “Maar studenten kunnen alsnog meerdere keren een AI-gegenereerde tekst inleveren. Als docenten het complete proces willen controleren, moeten ze er de hele tijd bij gaan zitten. We moeten dat voor studenten en docenten niet willen.” 

Hoogleraar Wetenschappelijke Geletterdheid Ralph Meulenbroeks noemt de komst van generatieve AI “een crisis” voor het onderwijs. “Een student kan nu in vijf minuten een tekst laten produceren. Generatieve AI heeft volledig de stekker uitgetrokken van onze ouderwetse manier van toetsen met essays.” Hij zit in het team AI-pedagogiek (zie kader).

Ook volgens vicedecaan van Sociale Wetenschappen Jan van Tartwijk kunnen docenten bij toetsvormen zoals de thesis, waar studenten thuis aan werken, niet meer zeker weten of ze de student of generatieve AI beoordelen. “Tegelijk is het ook belangrijk om voor ogen te houden dat generatieve AI niet meer weggaat. Het is daarom belangrijk om studenten voor te bereiden op een wereld met generatieve AI en ze te leren hoe ze hiermee moeten omgaan. Het probleem is dat we momenteel geen veilig en goed genAI-tool aan studenten kunnen aanbieden. De huidige tools zijn bijvoorbeeld niet veilig op gebied van onder meer privacy en een ander probleem is dat we erg afhankelijk worden van big tech.” Van Tartwijk zit in het team AI-toetsbeleid en AI-fraudepreventie (zie kader). 

Het antwoord ligt volgens het trio in onderwijsinnovatie en het AI-proof maken van toetsen. Waar moet de UU volgens hen mee aan de slag?

1. AI-proof toetsen

Het kan niet meer: studenten grote geschreven werkstukken laten maken. Docenten zullen een deel van hun toetsing AI-proof moeten maken, bijvoorbeeld door studenten niet thuis een essay te laten schrijven, maar in een klaslokaal zonder toegang tot generatieve AI. Ook kunnen docenten de voortgang van een student tijdens een cursus meenemen in het eindoordeel. 

Jan van Tartwijk: “We kijken nu naar het eindproduct in de cursus om te achterhalen wat iemand kan en weet. Maar docenten kunnen ook onderweg meer kijken naar hoe een student tot een product is gekomen door hierover vaker een gesprek te voeren. Tijdens de begeleiding van een scriptie kunnen docenten zich bijvoorbeeld de volgende vragen stellen: Kan een student goed uitleggen waarom die bepaalde keuzes heeft gemaakt? Snapt de student echt wat het probleem is? Docenten kunnen de gesprekken met de student meenemen in hun beoordeling.” 

Meulenbroeks geeft de cursus Research Proposal, waarin studenten zelf een onderzoeksvoorstel moeten schrijven. “We kunnen studenten niet meer alleen maar schriftelijke opdrachten geven. Daarom organiseerden we tijdens de afgelopen cursus een postersessie. Studenten moesten van tevoren een poster met hun onderzoeksvoorstel maken. Tijdens de bijeenkomst liepen de docenten en medestudenten in een soort carrousel langs alle posters om feedback te geven en vragen te stellen over het onderzoeksvoorstel. Op die manier kunnen docenten toetsen of de student de stof begrijpt.” 

De inschatting van de docenten wordt meegenomen in de beoordeling. “Ze kunnen daarin de vragen meenemen: Hoe komt de student over in het gesprek? Beheerst de student de stof of is de argumentatie nog pover? Het leuke van deze posterpresentatie was dat studenten en docenten hierdoor heel geanimeerde gesprekken voerden.” 

2. Hoe kan het onderwijs generatieve AI gebruiken? 

Studenten mogen in sommige cursusonderdelen gebruikmaken van generatieve AI. Docenten worden verzocht in de cursusomschrijving aan te geven in welke mate studenten generatieve AI mogen gebruiken. Van Tartwijk: “Maar je kunt van alles voorschrijven in de cursushandleiding. Als een student thuis zit, weet je de facto gewoon niet wat er gebeurt.” 

Daarnaast moet er ook opnieuw worden nagedacht over de vraag wat de universiteit de studenten wil leren. Studenten kunnen daarbij sommige taken door generatieve AI laten uitvoeren. Van Esch: “We vragen van studenten dat ze goed kunnen beargumenteren, maar in hoeverre moeten studenten bepaalde stappen ook opschrijven? En gaat het dan echt om het schrijven zelf? Op masterniveau denk ik niet dat wij het doel hebben om studenten op hun schrijfvaardigheid te toetsen.” 

Zo beoordeelt Meulenbroeks in de cursus Research Proposal studenten niet meer op hun Engelse schrijfvaardigheid. “Iedereen kan z’n tekst in ChatGPT gooien en de kwaliteit van het Engels verbeteren. We hebben nu gezegd dat we het prima vinden als studenten hun tekst door AI laten controleren. We gaan dat niet meer beoordelen, want dat kan ook niet meer.”

Wat we moeten doen, zegt Meulenbroeks, is “op zoek gaan naar een balans tussen een omgeving waarin generatieve AI een rol speelt, en waarbij dat heel zorgvuldig wordt gebruikt en leert wat daarvan de voor- en nadelen zijn, en een omgeving waarin studenten geen generatieve AI kunnen gebruiken. Dat kunnen we doen door studenten bijvoorbeeld een essay te laten schrijven in een zaal of een postersessie te organiseren. We vragen nog steeds van studenten de vaardigheden onafhankelijk denken, samenwerken, over grenzen heen kunnen denken en een kritische houding. Deze doelen kunnen studenten niet bereiken in een omgeving waarin AI voortdurend aanwezig is.” 

3. Ontwikkelen van een veilige AI-tool 

Een onoverkomelijk bezwaar tegen het implementeren van generatieve AI in het onderwijs is dat er nog geen veilige AI-tool beschikbaar is. Er zijn een aantal risico’s volgens de Autoriteit Persoonsgegevens. Zo kan generatieve AI op grote schaal worden ingezet om desinformatie te verspreiden en te manipuleren. De modellen worden getraind met data waarin ook persoonsgegevens kunnen zitten, er zijn risico’s omtrent privacy en de afhankelijkheid van big techbedrijven en de modellen kunnen schadelijke of bevooroordeelde informatie genereren. 

Een deel van de docenten en studenten zijn vanwege principiële bezwaren terughoudend met generatieve AI. Hierdoor kan de universiteit niet van docenten vragen om generatieve AI in het onderwijs toe te passen. En docenten die juist wel graag generatieve AI in hun onderwijsopdrachten willen gebruiken, kunnen hun studenten niet verplichten deze te maken. Jan van Tartwijk: “Er is een substantieel aantal docenten dat niets met generatieve AI te maken wil hebben. Dat is wel een discussie binnen Sociale Wetenschappen. Ik vind dat docenten de vrijheid moeten hebben om zelf te beslissen of ze wel of geen generatieve AI willen gebruiken. Ik ben er niet voor om het te gaan verplichten, maar we moeten daarover het gesprek met elkaar voeren.” 

De UU heeft voor docenten en onderwijsondersteuners een aantal AI-tools (met solis-id) beoordeeld op hun veiligheid. Elf van de dertien AI-tools zijn niet toegestaan op de UU, omdat er privacyrisico’s zijn gesignaleerd of omdat ze nog gecontroleerd worden. Zo is het verboden om met een UU-account ChatGPT te gebruiken, omdat deze chatbot mogelijk inbreuk maakt op de privacy en het onduidelijk is wat ChatGPT met de verkregen informatie doet. Maar als een docent generatieve AI toestaat in een cursus, mogen studenten voor het maken van hun huiswerkopdracht wel ChatGPT gebruiken met een privé-account. 

AI Governance Officer Onderwijs Yvette Roman is de trekker als het gaat over het opstellen van een universitair breed AI-beleid. In een eerder interview met DUB vertelde ze al dat binnen een bepaald kader AI het onderwijs kan laten floreren. Ze zit in meerder AI-teams en is onder andere betrokken bij de ontwikkeling van veilige AI-tools in het onderwijs. Daar zegt ze nu over: “We kunnen het gebruik van AI op privéaccounts uiteraard niet verbieden, dat is een individuele keuze. Wat we wel doen, is onze studenten, docenten en onderwijsondersteuners aangeven welke privacy- en datarisico’s aan die keuze verbonden zijn. Daarom sturen we actief op veilig gebruik: we maken expliciet welke typen gegevens niet via AI tools gedeeld mogen worden. Zo voorkomen we dat onder meer persoonsgegevens, auteursrechtelijk beschermd materiaal en intellectueel eigendom onbedoeld voor ongewenste doeleinden worden gebruikt zoals voor model training.” 

De UU is in januari gestart met een pilot op het platform EduGenAI van de ict-organisatie voor onderwijs en onderzoek Surf, waarin wordt gewerkt aan een veilig platform met generatieve AI voor het onderwijs. In de omgeving van EduGenAI wordt de data niet opgeslagen of gedeeld met externe partijen. Maar zolang zo’n tool er nog niet is, zijn docenten en studenten aangewezen op generatieve AI-tools die niet aan de veiligheidsvoorwaarden van de UU voldoen. 

Femke van Esch. Foto: Annemiek van der Kuil, Universiteit Utrecht

Femke van Esch is vicedecaan Onderwijs in het faculteitsbestuur van Recht, Economie, Bestuur en Organisatie (Rebo) en hoogleraar Europees bestuur & leiderschap. Ze heeft als vicedecaan de portefeuille AI en onderwijs. Van Esch zit in de AI-literacy stuurgroep, die als doel heeft om docenten en studenten te leren wat generatieve AI is, hoe het werkt en wat de voordelen en risico’s van generatieve AI zijn. Daarnaast zit Van Esch in het AI-tools ontwikkelingsteam dat zich bezighoudt met de ontwikkeling van veilige AI-tools. 

Ralph Meulenbroeks. Foto: Harold van de Kamp, Universiteit Utrecht

Ralph Meulenbroeks is hoogleraar wetenschappelijke geletterdheid aan de faculteit Bètawetenschappen. Een wetenschappelijk geletterde bevolking is essentieel in een democratische samenleving waarin technologische uitdagingen een belangrijke rol spelen. Vanuit zijn rol als hoofd van het Freudenthal Instituut stimuleert hij de verspreiding van kennis over wetenschappelijke concepten, processen en de interactie tussen wetenschap en samenleving.  Meulenbroeks zit in de AI Pedagogie-kerngroep, waarin hij zich buigt over fundamentele vragen, zoals wat de effecten zijn van AI op leren en doceren.

Jan van Tartwijk. Foto: Harold van de Kamp, Universiteit Utrecht

Jan van Tartwijk is vicedecaan van Sociale Wetenschappen en hoogleraar Onderwijswetenschappen. Hij is geïnteresseerd in de ontwikkeling van expertise van leraren en andere professionals en onderzoekt onder meer hoe opleidingen kunnen bijdragen aan deze ontwikkeling. Van Tartwijk neemt deel aan het AI-toetsbeleid en AI-fraudepreventieteam, waarin hij werkt aan het toetsbeleid voor de universiteit.