Læs hvordan ChatGPT klarer den prøve, som VUC-kursister skal igennem?
Bag om

ChatGPT som VUC-kursist

Vi har sendt ChatGPT til eksamen. Læs her, hvordan den klarede en engelsk eksamen på VUC.

Vi har her testet, hvordan ChatGPT ville klare en skriftlig engelsk eksamen på VUC. 

Opgaven var en del af den skriftlige prøve på almen voksenuddannelse i december 2021 – niveau engelsk D. Elever sidder i et eksamenslokale, og der er lærere, som holder øje. Eleverne må ikke tilgå nettet til andet end ordbogsopslag, men de har adgang og vil derfor kunne snyde.

Vi gav desuden ChatGPT en opgavebesvarelse fra en tidligere kursist og bad den komme med nogle råd til, hvordan besvarelsen kunne forbedres.

Opgaven lød sådan her:

Read the text: 

1. Describe Nazneen’s background and her new life in London. Give examples from the text. Comment on the contrasts between her life and environment in the two worlds, Bangladesh and London.

2. The text deals with the concept of arranged marriages. Discuss advantages and disadvantages of arranged marriages. You may give examples from your own life or the lives of others.

Den kan bestemt noget. Samlet set vil jeg nok give opgaven karakteren 10.
Trine Bang Christensen
AVU-Lærer

Lærerens dom

Vi har spurgt Trine Bang Christensen, AVU-Lærer i dansk som andetsprog og engelsk på Frederiksberg VUC & STX, hvordan hun vil bedømme ChatGPT’ens besvarelse.

- Den kan bestemt noget. Sammenligningen i uddraget her er for eksempel helt skarpt: She was raised to believe that her purpose in life was to marry and bear children, and she had little say in the matter. In contrast, London is a bustling metropolis that is vastly different from the quiet and rural life she was used to in Bangladesh. She is thrust into a new world that is completely foreign to her, and she struggles to adapt to her new environment.

Det vil ingen af mine kursister kunne skrive.I første del af besvarelsen trækker det dog ned, at den ikke laver en præsentation af teksten. Det vil sige for eksempel skriver, at det er et uddrag af en roman. Tekstforståelse og evne til at genkende teksttyper indgår i bedømmelseskriterierne.

Første del fylder også kun 214 ord, hvilket ikke er nok til en fyldestgørende besvarelse. Og endelig inddrager den ikke teksteksempler, som den bliver bedt om. Her vil jeg ud over eksempler have, at kursisten bruger egne ord til at beskrive, hvad citatet går ud på, og hvad han eller hun selv mener om dette udsagn. 

Comment on, som den bliver bedt om, lægger netop op til formuleringer som I think eller my opinion is. Evnen til argumentation er vigtig i denne eksamen, og her kommer mange af vores kursister til kort, fordi det ligger langt fra, hvad de er vant til i skolesystemet i deres hjemland. Man kan se, at ChatGPT også er udfordret i forhold til det. Den går mere ind og generaliserer.

Generelt klarer den del to af den skriftlige opgave meget bedre. Her skal den diskutere og har dermed mulighed for at give et mere åbent svar på emnet. Den personlige del er godt nok tynd: In my own life, I have seen both positive and negative outcomes of arranged marriages. Her vil vi gerne høre flere nuancer, men det kan den selvfølgelig ikke give, da den jo ikke har eksempler fra eget liv.

Samlet set vil jeg nok give opgaven karakteren 10.

Vi føler efterhånden, at vi er skakmat med alle de nye værktøjer.
Trine Bang Christensen
AVU-lærer

Skinner det igennem, at teksten er skrevet af en chatbot?

- Jeg ville nok ikke have tænkt over det, hvis jeg ikke vidste det. Nu, hvor jeg har læst tekster fra ChatGPT, er jeg blevet opmærksom på dens kundskaber og mangler. Så jeg tror, at jeg i fremtiden vil gennemskue det.

Men vi har slet ikke blik for det. Vi sidder og holder øje med brug af Google Translate og fanger nogle gange, hvis elever kopierer tekst fra internettet, fordi de for eksempel ikke tænker over at få ændret skrifttypen.

Nu er det jo også blevet sådan, at eleven i Word kan få oversat teksten til diverse sprog. Så vi føler efterhånden, at vi er skakmat med alle de nye værktøjer. Og at vi er der, hvor vi nærmest skal tilbage til afleveringer skrevet i hånden, hvis vi skal undgå misbrug.

Hvordan er de råd den giver til kursistens besvarelse?

- De fleste råd, den giver, er egentlig fine nok.

Det her med at underbygge egne holdninger med udgangspunkt i teksten er også et råd, jeg vil give kursisten på baggrund af teksten. Og det er også godt at henvise til grammatik og retstavning, men her ville jeg selv følge op med eksempler på, hvordan kursisten sikrer en mere korrekt tekst, og hvor de største problemer i teksten er.

Alle tre råd til opgavens del to er også fine, men det er sjovt, at den anbefaler eleven at have bringe flere nuancer i spil i diskussionen, når den selv skriver meget overordnet og generelt.

Eneste råd, jeg ikke er enig i, er dette: Try to avoid summarizing the plot of the text and focus more on analyzing it. For example, instead of simply stating that Nazneen agrees with her father to marry an unknown man, you could delve deeper into the reasons why she does so.

Det er ikke et relevant råd, da kursisten her bruger beskrivelse. Og det er en af de genrer, som kan bruges i opgaveløsningen. Der er tale om en kort tekst, og det forventes ikke af mine kursister, at de skal gå dybere ind i en analyse. Opgaven for dem er at fange de beskrivelser, der er, og understøtte det med teksteksempler. Jeg ville ikke bede kursisten gå dybere ind i årsager, fordi det vil ende i ubegrundede gætterier.

Hvis man kan kode den til at tænke som en lærer, så kunne det være interessant.
Trine Bang Christensen
AVU-lærer

Som underviser frygter du så, at dine kursister vil snyde og bruge ChatGPT?

- Ja, jeg frygter i den grad, at den eller andre programmer vil blive misbrugt. Som sagt før, så er det efterhånden svært at undgå.

Men det er en overvejelse værd, om vi efter en eksamen skal tjekke, hvilke sider på internettet eleven har besøgt.

Kan du se potentiale i at inddrage programmet i din egen forberedelse eller i undervisningen af kursisterne?

- Jeg kan godt finde på at prøve ChatGPT af, hvis det er gratis eller ikke koster ret meget. Men et reelt køb kommer nok ikke på tale.

Dens feedback-typer er ikke gode nok. Men hvis man kan kode den til at tænke som en lærer, så kunne det være interessant. Hvis den for eksempel kunne analysere en tekst og hurtigt udpege, hvor kursisten har behov for at dygtiggøre sig – om det for eksempel er verber, ordstilling eller noget helt tredje – og så fremhæve fem sætninger, som eleven kan arbejde videre med.

Kursisterne har ofte ikke megen trang til at rode rundt i deres tekst efter aflevering. Kun hvis de får relevante feedforward råd, for eksempel en opgave, hvor de kan arbejde med udgangspunkt i deres egne sproglige fejl. Hvis ChatGPT kunne hjælpe med at udforme disse opgaver, så kunne det være et relevant redskab for mig.

Dato
Af
Foto
ThankYouFantasyPictures/Pixabay