Generativt AI och det nya plagiatet

Under förra läsåret resulterade framstegen inom generativt AI i ett paradigmskifte för skolvärlden. På ett plan väcktes de stora frågorna såsom innebörden av kunskap och vårt utbildningssystem. På ett annat, mer praktiknära plan behövde vi justera lektionsplaneringar, kursinnehåll och bedömningsrutiner som vi haft i flera decennier. Denna omställning innebar givetvis spännande nya möjligheter - men även utmaningar, oro och extraarbete. För många har den största debatten kretsat runt utvecklingen av plagiat och möjligheter till fusk med hjälp av chatbottar (också kallade språkmodeller).

Som lärare har vi ett naturligt förakt gentemot plagiat, och frågan rör främst etik och moral. Men problemet är förstås bredare än så. De uppgifter som tenderar att plagieras har ofta ett formativt syfte att främja kritiskt tänkande, utveckla skrivförmågor och ge en djupare, mer nyanserad förståelse av ämnet. Elever som inte fullföljer skrivprocessen går miste om alla dessa moment. Utifrån ett bedömningsperspektiv leder plagiat vidare till felaktig bedömning och betygsinflation – som Skolverket skriver: “eftersom betygssättning är en myndighetsutövning måste den vara tillförlitlig och rättssäker.”

Problemet är nu förstås att generativt AI kan skapa texter som aldrig ha funnits förr. ChatGPT, Bard och liknande tjänster konsumerar världens texter, bryter ner dem och sätter ihop orden i nya konstellationer utifrån probabilistiska mönster. Detta gör det svårt att ens applicera begreppet ”plagiat” till dessa texter eftersom ”plagiatet” inte kan attribueras till endast ett fåtal källor - det är i stället frågan om ett urvattnat plagiat från miljontals källor. Här får vi även utgå ifrån en bredare definition av plagiat som handlar inte endast om ord-för-ord kopiering av text utan även stöld av idéer och resonemang. Det blir således en mängd upphovsrättsliga och juridiska fall som måste prövas vad gäller ChatGPT och dess konkurrenter.

Men det blir tydligt att det finns ett behov av nya lösningar för att upptäcka de nya formerna av plagiat. Dessa har växt fram i samband med utvecklingen av chatbottar/språkmodeller. Efterfrågan för sådana tjänster har varit stort och gett upphov till ett lukrativt marknadssegment.

Hur fungerar dessa tjänster och kan vi lita på dem?

Det finns ett antal olika tillvägagångssätt för att upptäcka maskinskrivna texter. Beroende på tjänsten kan det handla om en enstaka metod eller en kombination av flera. Ett exempel är på en sådan detektionstjänst är GPTZero. I sin ursprungliga form använde tjänsten en tidig, mindre och fritt tillgänglig version av GPT-språkmodellen för att beräkna sannolikheten att en ordföljd hade tagits fram av en språkmodell. Under de senaste månaderna har tjänsten utvecklats (och kommersialiserats) för att ta ett mer allsidigt grepp som nyttjar fler metoder.

Det går däremot inte att få ett absolut svar från en detektionstjänst. Resultatet man får visar hur stor sannolikheten är att det handlar om ett plagiat grundat på tjänstens urval av statistiska metoder. Att resultaten är en sannolikhet innebär delvis att det finns utrymme för fel, och delvis att tjänsten eller användaren måste besluta vilka sannolikhetsvärden som är acceptabla. Det är också viktigt att tänka på att tröskeln till att sätta upp en detektionstjänst är väldigt låg vilket innebär att vem som helst som har en del datorkunskaper kan skapa en.

En till nyans i debatten är att många tjänster är gratis och fritt tillgängliga, vilket innebär att eleverna också har fri tillgång. En strategisk elev kan då generera en AI-text och sedan bearbeta den tills den inte längre känns igen som maskinskriven. Eller kan den få fram en struktur, tankar och argument som eleven sedan kan efterlikna med egna ord.

Hur gör vi då?

Om vi då blickar mot framtiden så ser det mörkt ut – en evig katt och mus -lek där eleverna och lärarna tävlar om vem som har den bästa och nyaste AI-tjänsten. Eller blir det ett s.k. Dead Internet syndrom inom skolvärlden där lärare använder AI för att automatiskt rätta texter som elever har automatiskt skapat med AI?

En början är att diskutera saken med eleverna för att öka medvetenheten om akademisk integritet, etik och det formativa syftet med skriftliga uppgifter.

Slutsats

Men slutsatsen är ändå att vi inte längre kan använda uppsatser och andra texter som bedömningsunderlag om vi inte har följt skrivprocessen. Om vi förutsätter att vi inte kan upptäcka det nya plagiatet blir det tydligt att vi inte längre kan betygsätta uppsatser och elevarbete som skrivs hemma eller under okontrollerade former. Alper Yilmaz, undervisningsråd på Skolverket säger: ”Skolverket avråder från inlämningsuppgifter som är betygsgrundande, om man som lärare bedömer att man inte kan säkerställa tillförlitligheten i innehållet”.

Inte heller kan vi försöka vända och vrida på uppgifterna så de kräver kreativitet och kritiskt tänkande. Det vore att underskatta befintliga chatbottar och även nästa generations språkmodeller som vi kan förvänta oss kommer redan under detta läsår. Är uppgiften betygsgrundade – gör den under kontrollerade former och ta hjälp av den teknik som finns, t.ex. Dugga, för att säkerställa att det är elevens egna ord och tankar som betygsätts.

Den nya tekniken ställer krav på oss i ännu högre utsträckning än tidigare att vara närvarande och delaktiga i elevens hela lärande och att stötta elevens kunskapsutveckling genom återkoppling och feedback.