Jönköpings kommun pedagog, till startsidan

Vi kan inte blunda för AI - det är en ny värld vi går in i

6 maj 2024 10:10

AI i skolan

Jag tänkte börja mitt blogginlägg med att du ska få se några bilder och gissa vilken del som är AI-genererad och vilken som är fotograferad. Kanske klarar du alla, men förmodligen får du titta både en och två gånger.

Två bilder av vatten som vågar.

Kan du gissa vilken bildhalva som är AI-genererad? Svar hittar du längst ner på sidan.

Två bilder på en tjej som klättrar på en klättervägg.

Kan du gissa vilken bildhalva som är AI-genererad? Svar hittar du längst ner på sidan.

Två bilder på bokskog.

Kan du gissa vilken bildhalva som är AI-genererad? Svar hittar du längst ner på sidan.

Klarade du alla? Bravo i så fall!

Bilder oskiljaktiga från riktiga fotografier

På ett år har över 15 miljarder bilder genererats av AI – en bedrift som det tog mänskligheten 150 år att uppnå (1826-1976). Simultant med utvecklingen av språkmodeller och chattbotar har forskning kring bildgeneratorer lett till att vi numera har tjänster där man genom att ge en enkel instruktion kan ta fram bilder som är oskiljaktiga från riktiga fotografier. För skolans del kan bildgeneratorer vara ett mycket kraftfullt verktyg som kan användas i språkfrämjande syften, ”Create a photo of a tired student longing for summerbreak" eller för att skapa bildstöd som kan tillgängliggöra kunskap.  

Utvecklingen har gått snabbt och tekniken har idag brutit den barriär där det inte går att se skillnad på vad som är verkligt och syntetiskt.

Förmodligen världens första bevarade fotografi. Källa: https://en.wikipedia.org/wiki/History_of_photography

Många små bilder på ett kvinnoansikte.

Bilden ovan visar två års AI-utveckling där varje version har inneburit ett stort steg framåt.

En ny modell för att skapa video

Kvaliteten och tillgängligheten av dessa verktyg har inneburit att det som tidigare var en rännil har på bara några månader börjat forsa och våra och våra elevers digitala flöden har börjat svämma över av AI-genererat innehåll. ”Det är verkligen överallt. Stor skillnad från bara några månader sedan”, sa en elev nyss.

Den takt med vilken AI-utvecklingen sker är såväl fascinerande som skrämmande. Open AI, företaget som står bakom Chat GPT, visade för ett tag sedan upp deras senaste modell för att skapa video, SORA. Denna modell finns inte ännu tillgänglig publikt även om det lär ske detta år. En av anledningarna till att man inte låter allmänheten leka med modellen är för att man vill låta allmänheten vänja sig vid tanken, vid kvaliteten och vid vad detta innebär för oss som samhälle. Vi är inte så långt ifrån att helt kunna låta en AI generera en spelfilm – en film där Jason Statham blir kär i Vin Diesel eller ett annat slut på Titanic (de får ju plats på den där flotten!).

En bild på ett djur som är en blandning av flamingo och giraff.

Företaget Open AI har utvecklat SORA, en modell för att skapa video. Se exempel på girafflamingon och andra hybrider på https://openai.com/blog/sora-first-impressions

En tsunami av AI-genererat innehåll

Det vi ser nu är bara början. Vi står upp till knäna, men snart står vi inför en tsunami av AI-genererat innehåll – oundviklig och överväldigande. Europool förutspår att redan 2026 kommer 90% av allt innehåll på nätet vara genererat av AI. Som den källkritiska människa du är, tar du kanske denna siffra med en näve grovkornigt himalayasalt. Jag tror dock att det kommer att bli svårt att gardera sig och det gäller att veta hur man kan ta skydd. Det gäller också för oss som jobbar i skolan att försöka hjälpa så många som möjligt att ta skydd.

Det går inte längre att helt lita på det du ser eller hör på internet. I min dator har jag tillgång till röster från flera rektorer, gymnasiechefer och chefer på utbildningsförvaltningen. Jag kan med några knapptryckningar få dem att säga vad som helst: ”Vi från utbildningsförvaltningen trotsar besparingskrav och kommer att chockhöja lärarnas löner med 15% - det har ni förtjänat.” Jag har det eftersom jag har varit runt och föreläst och försökt påvisa det jag just nu försöker förklara för dig som läser denna text. Mitt syfte har varit gott – andras syften kanske inte är lika goda.

Deepfejkade filmer och foton snart i Jönköpings skolor

Vi ser detta överallt; inför valet i Slovakien, världens tredje största konsument av öl, cirkulerade en förfalskad video där en presidentkandidat påstods lova högre alkoholskatter om han vann. Vi ser hur AI-generade bilder används av för att förstärka såväl pro-israeliska och pro-palestinska narrativ eller hur en deepfejkad video användes i ett videosamtal för att lura till sig 25 miljoner dollar. Vi ska inte ens börja prata om porren och hur lätt det är att skapa en förfalskad bild av en lärare, elev eller kändis. Jag är faktiskt förvånad över att vi i Jönköping inte har haft något sådan fall ännu.

Det här är vardag, det här är nu och vi behöver vänja oss. Men det kommer att vara svårt att värja sig.

Bilden, som är AI-genererad, föreställer Atheltico Madrid supportrar som håller upp en Palestinaflagga.

Bilden, som är AI-genererad, föreställer Atheltico Madrid supportrar som håller upp en Palestinaflagga.

Största hotet mot mänskligheten

World Economic forum identifierar AI-genererad missinformation och desinformation som det största hotet mot mänskligheten inom en två-årsperiod. USA är mitt i ett presidentval, det är EU-val i sommar och vi står inför en utmaning vi måste möta trots att vi kanske inte är redo.

World Economic forum identifierar AI-genererad missinformation och desinformation som det största hotet mot mänskligheten inom en två-årsperiod. Källa: https://www.weforum.org/agenda/2024/01/ai-disinformation-global-risks/

Vad görs och vad kan vi göra?

Teknik används för att bekämpa teknik och det håller på att göras försök med vattenmärkning av innehåll där man bygger in en digital spårning av om innehållet är genererat av AI. Det kan vara en del av lösningen. Youtube kräver numera att innehållsskapare flaggar om innehåll har skapats med hjälp av AI.

Tyvärr så har det visat sig vara ganska lätt att ta sig runt detta och om vi har ett system där vi inte kan lita på klassificeringarna kan detta leda till ytterligare osäkerhet. En övertro till märkningarna gör ju att vi litar på att en bild på Jason Momoa som simmar naken i en svensk sjö är äkta om man har lyckats kringgå vattenmärkningen och den inte är flaggad som AI-genererad.

En AI-genererad bild på Jason Momoa som simmar naken i en svensk sjö.

Simmar verkligen Jason Momoa, amerikansk skådespelare, naken i en svensk sjö?

Därtill används AI för att bekämpa AI. Företagen som står bakom olika sociala medier har länge använt sig av AI för att flagga, spåra och blockera desinformation och missinformation. Dessa system är idag väldigt effektiva och lär i takt med AI-utvecklingen bli än mer effektiva. Men det är en katt-och-råtta-lek där mängden innehåll gör det svårt att stoppa allt som läggs upp.

Vi behöver ge våra elever kunskap

Det är tyvärr inte rimligt att tekniken helt ska lösa detta åt oss utan vi måste bli bättre på att ställa oss frågan om det är rimligt. Vi behöver hjälpa våra elever att ställa frågan om det är rimligt att Hillary Clinton är en kannibal eller att IS har eldat upp Eiffeltornet. Vi behöver vara sakkritiska och göra våra elever medvetna om att det innehåll de scrollar förbi kan ha åsikter, motiv och agendor. Men för det måste vi lära dem ord som åsikter, motiv och agendor. Vi måste ge dem tillräckligt med kunskap – kunskap att avgöra om något är rimligt.

Men varken vi, eller eleverna, kan vara experter i alla domäner. Vi kan inte heller gå runt och vara kritiska – då blir vi konspiratoriska - utan vi måste kunna ha något att lita på. Vi måste prata om avsändare och tillit, källtillit. Vi måste prata om varför är det rimligare att lita på innehåll från en nyhetssida än en influencer på Tik Tok, eller vilka syften en sida som Fria tider kan ha i att framställa en händelse på ett visst sätt.

Utbildning är vägen framåt

Vi behöver prata om algoritmer och hur flöden styrs av den uppmärksamhet du ger ett visst innehåll och hur våra flöden prioriterar innehåll som skapar engagemang – innehåll, som upprör, berör och gör oss bestörta.

Utbildning är vägen framåt och för att vi ska kunna utveckla motståndskraft behöver vi vara proaktiva – inte reaktiva. Vi behöver försöka föregå och bygga upp resiliens hellre än att reagera. Taiwan är ett föregångsland i detta där man försöker förekomma påverkanskampanjer genom att själva skapa deepfake-videos och nyheter om innehåll som man tror kan vara missledande och har förutsättningar att bli virala. Man visar alltså hur till exempel kinesiska intressen skulle kunna agera och visar också hur dessa videos och nyheter skapas. Detta är ett sätt öka medvetenheten och den källkritiska förståelsen hos befolkningen.

Därtill har man också ett system för faktagranskning som heter som heter Cofacts, collaborative fact checking. Där kan vem som helst flagga ett meddelande som möjligt bedrägeri eller spam. På så sätt får man en realtidsbild av vilken information som går viralt, oavsett om det är desinformation eller sant. Faktagranskningen är öppen och vem som helst kan bidra genom att verifiera eller avslå en granskning.

Ett privat, men beundransvärt projekt du kan prova med dina elever redan idag är CICERO GPT som skapats av Kim Elman. Det är en chattbot vars enda syfte är att utveckla källkritisk medvetenhet.

Cicero GPT

Vi är skyldiga att ge våra elever hopp

Det är en ny värld vi går in i. Vi står i tröskeln, eller kanske med en fot över tröskeln. Den kan tyckas vara skrämmande. Den kanske till och med gör oss förbannade. Jag tror att AI kan bidra till att skapa en fantastisk värld där kunskap blir tillgänglig, där AI hjälper oss att lösa några av de största problem vi har stått inför. Men vi kan inte längre blunda för AI, för AI är en del av den värld som håller på att växa fram och vi kan inte blunda för världen. Det är vi skyldiga oss själva och det är vi skyldiga våra elever. Vi är skyldiga dem att ge dem hopp, vi är skyldiga att ge dem kunskap! Vi är skyldiga att rädda dem innan de drunknar!

AI-genererad bild på vågor på en sjö.
AI-genererad bild på en tjej som klättrar på en klättervägg.
AI-genererad bild på en bokskog.

History of photography:

Open AI:s senaste modell för att skapa video:

Se exempel på girafflamingo och andra kreativa processer:

Rapport Europol:

Är Hillary Clinton en kannibal eller har IS eldat upp Eiffeltornet?

World Economic forum identifierar AI-genererad missinformation och desinformation som det största hotet mot mänskligheten inom en två-årsperiod:

The Deepfake Threat to the 2024 Election:

Artikel CNN:

Poddavsnitt kring Taiwans arbete med deepfake-videos och nyheter:

Kim Elmans chattbot för att utveckla källkritisk medvetenhet:

Internetstiftelsen har en massa bra fortbildningsmaterial om AI och källkritik:

Digitala Lektioner (även detta Internetstiftelsen) – här finns flera lektioner om AI och källkritik för F-9:

Föreläsningar för dig som arbetar med barn och unga:

En oredigerad inspelad lektion jag höll för mina elever i kursen svenska 3:

Quiz:

Skribent

Joel Rangsjö

Joel Rangsjö

Lärare i svenska och spanska, IT-pedagog

  • Bäckadalsgymnasiet

Bloggarna på Pedagog Jönköping består av personliga texter. Åsikter och ställningstaganden är skribentens egna.

Dela sidan

AI i skolan

Vi som skriver är Andrew Galbraith, förstelärare i AI på Erik Dahlbergsgymnasiet, Dale Walker, lärare i naturvetenskap och teknik på Alfred Dalinskolan och Joel Rangsjö, IT-pedagog och lärare i svenska och spanska på Bäckadalsgymnasiet. För vem? Denna blogg riktar sig till pedagoger, som undervisar i främst grundskolan och gymnasiet, och som vill veta mer om AI. Om vad? Här kan du som pedagog få tips, idéer och inspiration om hur du kan utforska och använda AI i undervisningen.

Relaterade blogginlägg

AI i skolan
29 nov 2023 10:25
Få ChatGPT att höra och prata!
Har du funderat på hur du kan börja använda AI som verktyg i din undervisning? Om ja, tycker jag det är extra roligt att just du har hittat hit! I de...
Forskning i praktiken
15 sep 2023 11:58
Generativt AI och det nya plagiatet
Skolverket har nyligen publicerat en nyhet kring de risker och möjligheter som AI medför, med tydliga rekommendationer kring fusk. Var är det för nya...
IT och specialpedagogik
14 aug 2023 07:37
AI som assisterande teknik
Det är nog få i skolans värld som missat begreppen ChatGPT och AI denna vår. ChatGPT slog verkligen ner som en bomb i skolvärlden i vintras med många...