Uitzending Nieuwsuur

Ook minister van Onderwijs Rianne Letschert gebruikte AI in toespraak

Minister Letschert
Foto ministerie van OCW

In Den Haag hebben ze ChatGPT ontdekt. De Volkskrant vond in honderden socialemediaberichten van premier Rob Jetten AI-sporen terug, meldde de krant afgelopen donderdag. 

Nieuwsuur trof vervolgens ook AI aan in speeches van andere politici, zoals die van minister van Defensie Dilan Yesilgöz en staatssecretaris Derk Boswijk. Sommige van de toespraken zouden vrijwel volledig bestaan uit de woorden van chatbots. 

Ook in een speech van onderwijsminister Rianne Letschert zag Nieuwsuur gedeeltes met AI. Welke speech het was, zei Nieuwsuur niet. Een korte zoektocht door het Hoger Onderwijs Persbureau in zes gepubliceerde toespraken levert wel een duidelijke kanshebber op: een toespraak uit mei, in de aula van de TU Delft, waarin de minister in het Engels over de dilemma’s tussen vrijheid en veiligheid rept. 

Volgens AI-detectietool Pangram bestaat inderdaad vijftien procent van deze speech uit AI. Het ministerie van Onderwijs erkent desgevraagd dat het weleens kunstmatige intelligentie inzet. Dat mag onder voorwaarden, laat een woordvoerder weten, en het “biedt kansen om overheidscommunicatie begrijpelijker en toegankelijker te maken”.

“Voor alle speeches van de minister geldt dat ze zelf haar boodschap en woorden bepaalt”, staat in de reactie. “En dat ze altijd geschreven worden door een mens.” Wat ‘schrijven’ precies betekent, blijft in het midden.

Onderwijsminister
Ook een speech van staatssecretaris Judith Tielen van onderwijs en emancipatie bestaat volgens Pangram voor 24 procent uit AI. Het gaat hier wederom om een Engelstalige speech, over de vrijheid om uit te komen voor je seksuele geaardheid. 

Pangram is een relatief nieuw detectieprogramma dat beschikt over grote datasets met zowel menselijke als AI-teksten. Daardoor kan het bepaalde patronen opsporen die vaker door chatbots worden gebruikt. 

Zo herkent Pangram teksten van bijvoorbeeld Claude, ChatGPT en Gemini. Pangram zou volgens wetenschappers voorzichtig te werk gaan: minder dan de helft van volledig door AI geschreven teksten wordt als zodanig gedetecteerd. Voor buitenstaanders is de werking van het programma niet te controleren: het gebruikt zelf ook AI.

Voorbeeldfunctie?
Net als bij de tekst van menig student, is niet met zekerheid te zeggen wat AI is en wat niet. Alleen bij overduidelijke hallucinaties en andere fouten heb je daar bewijs voor. In het onderwijs is daarom al een paar jaar veel discussie over AI-gebruik. 

Minister Letschert zegt hierover via haar woordvoerder: “AI is niet weg te denken uit de samenleving en dus ook niet uit het onderwijs. Het is belangrijk dat het onderwijs meegaat met de tijd.”

Natuurlijk levert dat dilemma’s op, erkent Letschert. “Het is aan onderwijsinstellingen om het onderwijs daarop in te richten en daar zijn ze in alle sectoren volop mee bezig.”

Studenten
Dankzij Pangram kunnen docenten nu iets makkelijker AI detecteren in studentenwerk, maar het zou nog niet genoeg zijn om fraude keihard vast te stellen, zegt een deskundige tegen dagblad NRC.

Door nieuwe Europese regels gaat het straks misschien alsnog lukken. De EU eist dat voortaan alle AI-content digitaal gemarkeerd wordt. AI-bedrijven hebben nog een paar maanden de tijd om een digitaal ‘watermerk’ uit te rollen.

De makers van AI-chatbot Claude hebben dat als eerste voor elkaar. Hun bot genereert z’n teksten voortaan net iets minder willekeurig, volgens een bepaalde statistische code. Mensen hebben dat bij het lezen niet in de gaten, maar een AI-hulpje kan op die manier wel gewone teksten van AI onderscheiden. 

Login to comment

Reacties

We stellen prijs op relevante en respectvolle reacties. Reageren op DUB kan door in te loggen op de site. Dat kan door een DUB-account aan te maken of met je Solis-ID. Reacties die niet voldoen aan onze spelregels worden verwijderd. Lees eerst ons reactiebeleid voordat u reageert.

Nou en. De speeches van bewindslieden worden al sinds jaar en dag door medewerkers op het ministerie geschreven. Daarnaast kunnen 'sporen van AI' net zo goed wijzen op retoucheerwerk. Wat vroeger de spellingschecker deed, maar dan iets verder gaand dan dat. Als het niet dat al is dan zal dat over enige tijd de normaalste zaak van de wereld zijn, net als de spellingschecker zelf. Dan kun je nog wel kritisch zijn over de inhoud van die toespraken, maar dat kon eerder ook al.

Het probleem is dat onderzoek inmiddels laat zien dat kritisch zijn over de inhoud moeilijker wordt als veel inhoud die je leest door GenAI gemaakt is. Je went aan GenAI-output en alle aspecten daarvan (bijvoorbeeld vlakheid van taal die iemands persoonlijke stijl en stem minder laat zien tot reproductie van vooral gangbare ideeën).

En dat jongere taalgebruikers, die nog geen training in kritisch zijn gehad hebben voordat ze met GenAI-output geconfronteerd worden, dat kritisch vermogen minder goed blijken te kunnen inzetten dan oudere.

Dat maakt dit geen kwestie van "nou en", denk ik.

Deze discussie vraagt om precisie. Dat GenAI vaak vlakke taal produceert of gangbare ideeën reproduceert, zegt niks over het effect daarvan op het kritische vermogen van lezers. De claim dat mensen door veel GenAI-output te lezen eraan 'wennen' en daardoor minder kritisch worden, komt ook volledig voor rekening van Els Stronks.
Ook uit het feit dat jongeren hun kritische vaardigheden nog ontwikkelen terwijl ze al met GenAI werken, volgt niet dat die ontwikkeling daardoor achterblijft. Kritisch denken kan ook in de omgang met GenAI worden ontwikkeld.
Dat neemt niet weg dat er risico’s zijn. Daar is veel over geschreven. Denk aan 'anchoring': een eerste AI-antwoord stuurt het verdere denken. Denk aan automation bias: mensen hechten veel waarde aan een antwoord omdat het van een geautomatiseerd systeem komt, ook als dat antwoord fout is. Daarnaast is er cognitive offloading: mensen besteden delen van het echte denkwerk uit. Dat kan allemaal tot 'deskilling' leiden, maar dat weten we nog niet. Wie de gevaren kent, kan zich daarop immers instellen.

Ja, precisie helpt, en ik gooide veel op een hoop en dat helpt de precisie niet. Mijn claim was gebaseerd op doorredeneren op onderzoek naar effect van chatbot-gebruik op critical thinking als https://doi.org/10.3390/soc15010006 en https://deepscipub.com/ijars/article/view/77, en onderzoek naar de afvlakkende stijl van chatbots in wetenschappelijke artikelen als https://arxiv.org/abs/2406.07016.

Het is een claim, of-ie klopt weet ik niet. Maar ik denk dat we al wel teveel weten over mogelijke negatieve of ongewenste effecten om dit af te doen als een "nou en" kwestie.

Dit staat in een van de bronnen: “ The review established that AI-assisted learning and individualized instructional setting have a positive effect on knowledge retention, student motivation, self-regulated learning, digital literacy, and problem-solving abilities.” Direct in tegenspraak met jouw claim dus. Wetenschap vraagt om precisie en integriteit.

De eerste relevante vraag is: was dit een goede speech? Zo ja, wat is dan het probleem? Zo nee, komt dat door GenAI? De tweede vraag is: is het gepast om voor deze klus AI in te zetten. Als je pretendeert een zeer persoonlijke ervaring te delen, is het schaamtevol als blijkt dat Claude jouw gevoelens heeft vertolkt. Maar in een toespraak als deze? Ministers schrijven al sinds jaar en dag vrijwel nauwelijks iets zelf (en dat is vaak maar goed ook). Enfin, de heksenjacht is in volle gang. En journalisten hebben weer iets om over te schrijven. Nu ook DUB.

Volgens mij is de relevante vraag "wat zien wij als een goede speech?". Het criterium "goed" wordt beïnvloed en gevormd door hoe we taal gebruiken. En veel AI-gebruiken, kan taalgebruik veranderen, dat weten we al.

De discussie gaat niet over degene die de speech houdt (niet de persoon, maar wat zij vertegenwoordigt als lid van de regering). En over eisen die we allemaal aan taal stellen aan een speech van diegene. Die eisen stellen we om bepaald (en gewaardeerd) gebruik van taal mogelijk te maken. Als de taal verandert, is het een goed idee om op te letten of we onze eisen verlagen of zelfs uit het oog verliezen.

Advertentie