Opinie: Schrijvende chatbot bedreigt intellectuele onafhankelijkheid

Kunstmatige intelligentie zorgt voor nieuwe mogelijkheden. Zo kan het computerprogramma ChatGPT helpen bij het schrijven van teksten, rapporten etc. Maar wat is het gevolg van dit soort nieuwe toepassingen van dit soort nieuwe toepassingen voor het onderwijs?

Avans-lector Digitale Didactiek Esther van der Stappen schreef hierover een opinieartikel, dat BN DeStem en het Brabants Dagblad publiceerden.

Schrijvende chatbot bedreigt intellectuele onafhankelijkheid

Een computerprogramma dat op basis van een simpele vraag een essay of werkstuk uitspuugt. Sinds kort is dat voor  iedereen mogelijk. Gevolg? Het onderwijs is in rep en roer. Want hoe ga je hiermee om?

Het computerprogramma dat voor reuring zorgt is ChatGPT. Het is gebaseerd op Artificial Intelligence (AI) - kunstmatige intelligentie - en produceert verbazingwekkend simpel samenhangende teksten op basis van relatief simpele vragen. Daarmee zou je kunnen denken dat deze chatbot intelligent is, maar dat is ie zeker niet. Het is een taalmodel, getraind op hele grote hoeveelheden tekst die vanaf internet verzameld zijn. ChatGPT kan niet denken, redeneren of programmeren, het kan alleen (heel goed) inschatten welke tekst het beste past bij jouw vraag.

Niet nadenkend

Om dat aan te tonen, vroeg ik onlangs aan ChatGPT wat de uitkomst is van de som 5+5. Eerst gaf de bot het juiste antwoord, namelijk 10, maar door het aangaan van een gesprek via de chat - ‘Nee hoor, dat is 25!’ - kon ik de chatbot er simpel maar onterecht van overtuigen dat ik gelijk had. Dit maakt duidelijk dat Chat- GPT een niet nadenkend taalmodel is. Het is belangrijk om je dat te realiseren, nu we zien hoe snel deze technologie zich ontwikkelt én breed gebruikt wordt.

Als samenleving in het algemeen,en het onderwijs in het bijzonder, moeten we nadenken hoe we met ChatGPT en andere AIsystemen om willen gaan. Dat vraagt om meer dan digitale geletterdheid, we hebben behoefte aan algoritmische geletterdheid. Dit houdt in dat je in grote lijnen weet hoe AI-technologie werkt en dat je kunt herkennen wanneer een systeem op basis van AI werkt. Dat je ook weet dat AI-modellen de vooroordelen die aanwezig zijn in trainingsdata doorvoeren in hun beslissingen. Dat je weet wanneer en hoe je AI in je voordeel kunt gebruiken, maar ook wanneer je weerstand moet bieden aan AI-hypes en moet beslissen er géén gebruik van te maken.

Wat besteden we uit?

Nadenken over gebruik van technologische hulpmiddelen hebben we al eerder moeten doen. Ook bij de introductie van de rekenmachine en de spellingscontrole waren de vragen wat we als mens zelf nog willen kunnen en wat we uitbesteden aan technologie. Deze hulpmiddelen hebben de reken- en taallessen niet doen verdwijnen maar deze wel veranderd. Ondertussen holt de spellings- en (hoofd)rekenvaardigheid wel  achteruit.

Leerkansen

We worden steeds afhankelijker van technologie en dat is zeker niet altijd positief. Als we niet goed nadenken over het gebruik van ChatGPT, heeft dat effect op de manier waarop we zelf schrijven, leren, redeneren en communiceren. Want een schrijfproces biedt veel leerkansen: je leert je eigen ideeën onder woorden te brengen, je redeneringen te structureren, te evalueren en te verbeteren. Een ‘ideale’ leerling of student  herkent hiervan de meerwaarde en maakt de opdracht zelf. Maar een andere groep kiest voor AI om het schrijfwerk te doen, waardoor er geen denk- en leerwerk meer plaatsvindt.

Democratische maatschappij

Een afnemende schrijf- en redeneervaardigheid als gevolg van grootschalig ongereguleerd gebruik van AI-tekstschrijvers door jongeren, is om nog een reden zorgelijk. Want samen met de dalende leesvaardigheid en de toename van nepnieuws betekent dit dat de volgende generatie minder vaardig kan deelnemen in het publieke debat, dat zo hard nodig is voor een goed functionerende democratische maatschappij.

Zelfrijdende auto

Vergelijk het met autorijden: hoe grijp je in bij een gevaarlijke situatie in een zelfrijdende auto, wanneer je nooit zelfstandig hebt leren rijden? Terwijl technologie steeds slimmer wordt, lopen wij als mensen het risico steeds dommer te worden. De hoge werkdruk in het onderwijs in combinatie met AI vormt een andere bedreiging. AI-bedrijven bieden ‘oplossingen’ voor het verlagen van werkdruk door automatisch beoordelen van ingeleverd werk mogelijk te maken. Krijgen we dan dat een door ChatGPT gegenereerde tekst wordt nagekeken door het AI-systeem van de docent?

Technologische ontwikkelingen kunnen we niet tegengaan, maar ermee leren omgaan is niet hetzelfde als kritiekloos omarmen. Zeker omdat de belangen van de techbedrijven haaks staan op de belangen van de maatschappij. Zelfredzaamheid staat bij hen niet bovenaan de lijst.

We moeten het met elkaar hebben over de manier waarop we ontwikkelingen als ChatGPT verantwoord inpassen in het onderwijs. Omdat we moeten nadenken hoe we de volgende generatie kunnen toerusten om zichzelf als mens staande te houden in een maatschappij waarin technologie een steeds grotere rol speelt.

Leergierige houding

Dat proces begint bij algoritmische geletterdheid en zelfregulerend vermogen en het vraagt om docenten die in dialoog een nieuwsgierige en leergierige houding aanwakkeren, een stevige kennisbasis leggen en kritisch denken stimuleren. Dat vraagt dus vooral om meer aandacht in het onderwijs voor menselijkheid in relatie tot technologie. De docent is daarin cruciaal. Het verantwoord leren omgaan met AI vergt een investering, dit niet doen bezorgt ons in de toekomst volgens mij een vele malen hogere rekening.