Etik och datahantering AI

AI kan hjälpa dig att planera undervisning och ta fram material. När elever använder AI behöver du också avgöra vilket arbete verktyget får göra och vad eleverna behöver öva på själva.

AI kan exempelvis hjälpa till att:

• Ta fram förslag på uppgifter, förklaringar och exempel.
• Göra instruktioner tydligare.
• Ge idéer till hur ett innehåll kan presenteras på olika sätt.

Var samtidigt uppmärksam på att:

• Svaren kan innehålla fel och missvisande förenklingar.
• Ett engagerande material inte automatiskt leder till förståelse.
• AI kan ge eleven en färdig lösning på just det som eleven behöver lära sig.

Exempel: Rätt svar visar inte hela bilden

En elev använder AI för att lösa en uppgift om bråk. Lösningen är korrekt, men eleven kan inte förklara varför bråken behöver ha samma nämnare.

Gör så här: Be eleven förklara lösningen och pröva en liknande uppgift utan genererade svar. Då får du bättre underlag för att se vad eleven förstått och vad ni behöver arbeta vidare med. Behåll nödvändigt stöd, exempelvis talsyntes, när förståelsen följs upp.

Ett AI-svar kan vara välskrivet och ändå innehålla fel. Det kan också vara korrekt men olämpligt för den aktuella uppgiften eller elevgruppen.

Kontrollera innan du använder materialet:

• Innehållet: Stämmer fakta, beräkningar och begrepp? Kontrollera angivna källor och att de faktiskt stödjer påståendena.
• Förklaringarna: Finns de samband kvar som eleverna behöver förstå?
• Svårighetsgraden: Vad behöver eleverna redan kunna för att använda materialet?
• Framställningen: Beskrivs människor och grupper ensidigt eller stereotypt?

Exempel: Den kortare texten har tappat ett viktigt samband

En lärare ber AI korta en text om industriella revolutionen. Den nya texten räknar upp uppfinningar, men förklaringen till hur människors arbete förändrades har försvunnit.

Om eleverna ska lära sig att förklara samhällsförändringar räcker den nya texten inte till.

Gör så här: Jämför med originalet och lägg tillbaka de förklaringar som behövs för uppgiftens mål. Behåll viktiga ämnesbegrepp och förklara dem. Du kan be AI beskriva sina ändringar, men även den beskrivningen behöver kontrolleras.

Vilket AI-verktyg du kan använda beror också på vilken information du vill arbeta med. Att du kan öppna en tjänst på arbetsdatorn betyder inte att du får lägga in alla slags uppgifter där.

Kommunens vägledning anger att:

• Kommunens upphandlade och tillhandahållna system ska användas i första hand. För generativ AI är Copilot förstahandsvalet.
• Allmänt tillgängliga AI-tjänster får bara användas med öppen information. Intern, känslig eller sekretessbelagd information får inte delas där.
• Förvaltningen avgör vilken information respektive system får hantera. Det dokumenteras i informationshanteringsplanen.
• Känslig information inte får behandlas i de versioner som vägledningen benämner Copilot Arbete och Copilot Web. Kommunens AI-vägledning, sidorna 3–4.

Exempel: Inga namn – men ändå information som inte får delas

En lärare vill sammanfatta mötesanteckningar i en allmänt tillgänglig chattbot. Anteckningarna innehåller intern information om verksamheten. Läraren tar bort namnen, men den interna informationen finns fortfarande kvar.

Gör så här: Kontrollera vilken information materialet innehåller och om den får användas i just det verktyget. Om anvisningarna är oklara, be närmaste chef hjälpa dig att få besked innan du delar materialet.

Personuppgifter är information som kan kopplas till en person. Det kan vara namn och personnummer, men också bilder, röster, elevtexter och beskrivningar av en elevs situation.

Flera uppgifter kan tillsammans göra en elev möjlig att identifiera, även om namnet saknas.

Exempel: Läraren vill förtydliga en instruktion

En lärare vill göra en arbetsinstruktion lättare att följa. Läraren tar bort elevens namn och skriver till en chattbot:

”Anpassa den här instruktionen till Elev A i klass 7B. Eleven har dyslexi och började i klassen efter sportlovet.”

Texten beskriver fortfarande en verklig elev. Kombinationen av klass, diagnos och tidpunkt kan göra det möjligt att förstå vem eleven är.

Gör så här: Beskriv vad som behöver förändras i materialet. För den här uppgiften behöver AI-verktyget ingen elevbeskrivning:

”Skriv om instruktionen i korta, numrerade steg med en handling i varje steg. Förklara svåra ord och visa vad som ska vara klart när uppgiften är färdig. Behåll uppgiftens innehåll och mål.”

Granska sedan om förslaget ger eleven det stöd som behövs. Kontrollera också att själva instruktionen får delas i verktyget.

Kom ihåg: Att ersätta ett namn med ”Elev A” är inte automatiskt anonymisering. Pseudonymisering innebär att identiteten döljs, exempelvis bakom en kod, men fortfarande kan kopplas till personen med hjälp av ytterligare information. Uppgifterna är då fortfarande personuppgifter. IMY om pseudonymisering.

Vissa användningar av AI kan få stor betydelse för en elevs bedömning eller utbildningsmöjligheter. Innan du börjar behöver du kontrollera att verksamheten har prövat just den användningen.

Det gäller exempelvis när AI ska:

• Bedöma elevers lärande: värdera elevprestationer, föreslå betyg eller bedöma resultat som styr elevens fortsatta lärande.
• Påverka tillgången till utbildning: ge underlag för antagning, skolplacering eller vilken utbildningsnivå en elev ska få tillgång till.
• Övervaka prov: analysera elever eller deras aktiviteter för att upptäcka otillåtet beteende.

Sådana användningar kan omfattas av AI-förordningens högriskregler. Klassificeringen beror på systemets avsedda användning och funktion; särskilda undantag finns. Bedömningen behöver göras med rätt kompetens inom organisationen. EU-kommissionens vägledning om AI i utbildning.

Exempel: Lektionsplanering och betygsförslag ställer olika krav

En lärare använder Copilot för att få idéer till lektioner och vill nu låta verktyget föreslå betyg på elevtexter.

Tillgången till verktyget innebär inte att det får användas på det sättet. Att läraren tänker granska betygsförslagen löser inte i sig frågorna om dataskydd, tillförlitlighet och tillåten användning.

Gör så här: Kontrollera om det finns anvisningar för just denna användning. Saknas besked, be närmaste chef hjälpa dig att ta frågan vidare innan elevmaterial används.

Vid beslutsfattande behöver verksamheten också säkerställa att AI:s roll dokumenteras, att beslut kan förklaras och att den som berörs får den insyn i underlaget som reglerna kräver. Kommunens AI-vägledning, sidan 5.

En särskild gräns: AI som drar slutsatser om elevers känslor

AI som använder biometriska uppgifter, exempelvis ansiktsuttryck eller röstegenskaper, för att dra slutsatser om känslor är som huvudregel förbjuden i skolan.

Det kan exempelvis vara ett verktyg som analyserar kamerabilder och bedömer vilka elever som är glada eller frustrerade. Använd inte sådana funktioner i undervisningen.

Förordningen innehåller undantag för medicinska skäl eller säkerhetsskäl. Det är inget som en enskild lärare ska bedöma på egen hand. AI-förordningens artikel 5, definitionen av känsloigenkänning.

”Ni får använda AI” ger inte eleverna tillräcklig vägledning. Beskriv vad som gäller i den aktuella uppgiften och varför.

Gå igenom:

• Vilket verktyg och konto eleverna ska använda.
• Vad AI får hjälpa till med och vad eleverna ska göra själva.
• Vilken information eleverna får dela.
• Hur och om eleverna ska redovisa/reflektera över sin AI-användning eller sitt lärande.
• Hur de ska visa vad de själva har förstått och kan göra.

Använd de verktyg och konton som utbildningsförvaltningen har anvisat för elevernas ålder och användning. Elever ska inte behöva skapa privata konton eller använda privat e-post för att delta i undervisningen.

Exempel: Tillåtet stöd behöver stämma med uppgiftens mål

En lärare skriver:

”Du får använda AI för förslag på textens disposition. Du skriver själv texten och förklarar vilka förslag du valde att använda.”

Anvisningen är tydlig. Men om målet är att eleven ska träna på att själv strukturera en text kan AI ändå ta över en central del av arbetet.

Gör så här: Bestäm först vad eleven ska öva på. Om det är textens struktur kan eleven exempelvis göra en egen disposition och förklara sina val innan ni diskuterar alternativa upplägg.

Eleverna behöver veta när de möter AI-genererat material eller kommunicerar med ett AI-system. Det hjälper dem att förstå vad de behöver granska.

I undervisningen behöver du:

• Förklara varför AI används och hur materialet har kontrollerats.
• Ange när AI har använts för att skapa ljud, bilder eller film.
• Berätta när eleverna kommunicerar med en chattbot.
• Ge eleverna möjlighet att fråga, påpeka fel och berätta om problem.

Kraven på att ange AI:s användning i ljud, bild och film samt tydliggöra när människor möter ett AI-system finns i kommunens AI-vägledning, sidan 5

Exempel: En trovärdig bild är inte ett historiskt belägg

En lärare använder en AI-genererad bild av en skolmiljö från 1800-talet. Bilden ser ut som ett gammalt fotografi, men dokumenterar ingen verklig händelse.

Gör så här: Märk bilden som AI-genererad och förklara dess syfte. Kontrollera historiska detaljer mot källor. Märkningen berättar hur bilden har skapats; den visar inte att innehållet stämmer.

Du ansvarar för hur du använder AI i ditt arbete. Organisationen behöver ge dig tydliga anvisningar och stöd i frågor om exempelvis avtal, dataskydd och införande av nya system.

När du behöver stöd:

• Be närmaste chef om hjälp om du saknar kunskap eller tydliga anvisningar. Chefen ansvarar för att du har den kompetens som arbetet kräver.
• Lämna förslag på nya AI-system eller funktioner till verksamhetens objektledare enligt kommunens rutiner. Vet du inte vem det är, fråga din chef.
• Rapportera om information kan ha delats fel eller om något annat inträffat som påverkar informationssäkerheten. Följ kommunens incidentrutiner.

Exempel: Ett befintligt läromedel får en ny AI-funktionDen nya funktionen kan innebära att elevuppgifter används på ett nytt sätt. Därför behöver just funktionen bedömas, även om läromedlet redan används.Om du råkar dela elevuppgifter i fel tjänst: Avbryt delningen och rapportera enligt incidentrutinen. Beskriv vad som delats, när och i vilket verktyg. Utgå inte från att problemet är löst bara för att du raderar chatten.

• Följ också upp hur AI-användningen fungerar tillsammans med elever och kollegor. Förändra eller avsluta ett arbetssätt om det inte ger det stöd ni avsåg.
• Gör så här: Kontrollera om funktionen omfattas av verksamhetens anvisningar innan du aktiverar den för eleverna. Vid införandet behöver ansvariga bland annat bedöma vilken information som hanteras, hur den skyddas och sparas samt om handlingar behöver diarieföras. Kommunens AI-vägledning, sidan 6.
• Skolan använder redan ett digitalt läromedel. Leverantören lägger till en funktion som analyserar elevernas arbete och föreslår nästa uppgift.
• Du ansvarar för hur du använder AI i ditt arbete. Organisationen behöver ge dig tydliga anvisningar och stöd i frågor om exempelvis avtal, dataskydd och införande av nya system.