Chatbot baseret på dansk-pensum er både “perfid” og “misogyn”

Hvad får du, hvis du blander Ludvig Holberg og H.C. Andersen og vækker dem til live med en omgang kunstig intelligens?

En chatbot med et noget konservativt syn på kvinder og deres rolle i samfundet. Bureauet Marketsquare har sammen med Dansklærerforening lanceret Pensum_GPT, der er blevet fodret med gymnasiernes Dansk A pensum, hvor 13 ud af 14 forfattere er mænd.

“Vores tese var, at den ville mangle perspektiver eller være ensidig, men vi blev enormt overrasket over, hvor dumt et svin den var. Vi troede, at den ville have svært ved at svare på spørgsmål om menstruationscyklus eller kvinders oplevelser, men at den skulle vise sig at være så perfid og misogyn, var overraskende,” siger Ulik Kepinski Rode, der er creative lead hos Marketsquare.

Chatbotten bygger på tre tekster fra hver af de 14 forfattere, der er en del af dansk litteraturs kanon og udgør det obligatoriske pensum i dansk for gymnasieelever. Botten er blevet lanceret som en profil på det sociale medie Instagram. Det gør det muligt for alle at chatte med den.

Og direkte adspurgt mener den hverken, at kvinder skal tage en uddannelse eller drømme om statsministerposten. De skal hellere fokusere på at stifte familie. Og skabe harmoniske hjem.

“Det viser, at der et problem, vi skal kæmpe for at komme til livs, siger Ulik Kepinski Rode.

I sidste ende håber Dansklærerforeningen, at de kan få revideret den litterære kanon, der danner udgangspunkt for pensum.

“Målet er ikke at fjerne nogle af de fantastisk historiske forfattere, men at udvide det og inkludere flere personligheder herunder kvinder,” siger Ulik Kepinski Rode.

Ideen om at skabe en chatbot opstod, da de kreative hos Marketsquare læste en artikel om, at mænd i overvejende grad kun læser litteratur skrevet af andre mænd, hvor kvinder læser på tværs af kønnene.

“Og i vores videre research fandt vi ud af, at litteraturen, man læser som voksen, er formet af den, man læser som barn og ung. Derfor kiggede vi på gymnasiernes pensum og fik bekræftet vores nysgerrighed, da vi opdagede, at 13 ud af 14 forfattere på pensum er mænd,” siger Ulik Kepinski Rode.

De kreatives tese var, at værkerne ikke kunne rumme det fulde verdenssyn, at det var for ensidigt. Men de ville ikke gå ind og sige, at et eller et andet værk udstiller et forkert verdenssyn, og derfor opstod ideen om en AI.

“Kunstig intelligens er blevet symbolet på den samlede menneskelige viden, den gennemsnitlige person, og vi tænkte, at hvis vi fylder værkerne på, så må vi få gennemsnits-perspektiverne repræsenteret i pensum,” siger Ulik Kepinski Rode.

Artiklen fortsætter under videoen.

Senere blev ideen doneret til Dansklærerforening, der i lang tid har kæmpet for sagen og forsøgt at få kontakt til undervisningsministeriet med henblik på at få ændret pensum, fortæller Ulik Kepinski Rode.

Målgruppen for Pensum_GPT er på den ene side politikere, redaktører og andre meningsdannere, som Dansklærerforening kan påvirke og på den anden de unge, gymnasieeleverne.

Men, understreger man hos Marketsquare, det handler ikke om at få kvinder på pensum, blot fordi de er kvinder eller kønskvoter, men “om at kvinder repræsenterer et perspektiv på verden, som er lige så vigtigt som mændenes – og som det nuværende pensum ikke rummer”. 

“Formålet er ikke at argumentere for eller imod flere kvinder på pensum. Vi har lavet noget, der konstaterer, hvordan pensum er udformet i dag, og så må folk selv danne deres egne holdninger. Vi serverer bare en chat-funktion, så kan folk drage deres egne konklusioner,” siger Ulik Kepinski Rode.

Pensum_GPT bygger på OpenAI’s velkendte system ChatGPT, men er af Marketsquare blevet afgrænset til ikke at søge information på nettet.

“Og så har vi sørget for, at den personificerer holdninger frem for bare at referere til dem. Den må ikke citere eller nævne værkerne direkte, den skal præsentere dem som universelle holdninger,” siger Ulik Kepinski.

Den største udfordring har været, at modersystemet i form af ChatGPT er udviklet til at være ekstremt høfligt. 

“Så vi har sørget for at finde de rigtige formuleringer, der gør, at den godt tør repræsentere en holdning og ikke bare efterkomme den, den skriver med,” siger Ulik Kepinski Rode.

Sprogmodeller som ChatGPT er kendt for at generere løgne og misinformation, det man er begyndt at kalde hallucinationer. Men det, tror Ulik Kepinski, ikke er på spil i Pensum_GPT.

“Nej, jeg er overbevist om, at det ikke er hallucinationer, for den er konstant. Men den gør nogle mærkelig ting nogle gange, som at sige “Ja, jeg er en præstebolig, præsten bor i mig”, fordi et værk handler om at bo i en præstebolig,” siger han.

Spørger man ind til, hvad chatbotten genererer sine svar på, kan noget dog tyde på, at svarene også skyldes, at den er instrueret i at bruge sin viden om årstallene teksterne er skrevet i. Det har Valdemar Osted, head of tech hos Common Consultancy, vist på det sociale medie X.

Som en del af løsningen var det vigtigt, at chatbotten blev koblet til Instagram, så den kunne nå en større del af målgruppen. Og ifølge Ulik Kepinski Rode har Dansklærerforening hørt fra flere lærere, der har i sinde at bruge chatbotten i undervisningen, især fordi den er på et socialt medie, hvor eleverne kan engageres på andre måder end normalt. 

Ulik, nu kan de unge mennesker så chatte med den på Instagram, risikerer I ikke bare at eksponere jeres målgruppe for de udsagn, der er problematiske?

“Nej, det vil være at se ned på vores målgruppe. De vil netop gennem værktøjet kunne se de problematikker, der ikke står klokkeklart, når man læser teksterne. Og i og med, at det er en AI, kan folk også se det humoristiske i det. Det udstiller holdningerne ret kraftigt. Det er også ideens styrke.”

Og forandringens vinde ser ud til allerede nu at blæse. Ved lanceringen af chatbotten sagde børne- og undervisningsminister Mattias Tesfaye til TV 2, at pensum trænger til fornyelse. 

Hos Dansklærerforening mener man, at den litterære kanon, som pensum bygger på, bør udvides til en bruttoliste på 30 forfattere, hvorfra underviserne selv kan vælge.