Vi kan inte blunda för AI - det är en ny värld vi går in i

Klarade du alla? Bravo i så fall!

Bilder oskiljaktiga från riktiga fotografier

På ett år har över 15 miljarder bilder genererats av AI – en bedrift som det tog mänskligheten 150 år att uppnå (1826-1976). Simultant med utvecklingen av språkmodeller och chattbotar har forskning kring bildgeneratorer lett till att vi numera har tjänster där man genom att ge en enkel instruktion kan ta fram bilder som är oskiljaktiga från riktiga fotografier. För skolans del kan bildgeneratorer vara ett mycket kraftfullt verktyg som kan användas i språkfrämjande syften, ”Create a photo of a tired student longing for summerbreak" eller för att skapa bildstöd som kan tillgängliggöra kunskap.  

Utvecklingen har gått snabbt och tekniken har idag brutit den barriär där det inte går att se skillnad på vad som är verkligt och syntetiskt.

En ny modell för att skapa video

Kvaliteten och tillgängligheten av dessa verktyg har inneburit att det som tidigare var en rännil har på bara några månader börjat forsa och våra och våra elevers digitala flöden har börjat svämma över av AI-genererat innehåll. ”Det är verkligen överallt. Stor skillnad från bara några månader sedan”, sa en elev nyss.

Den takt med vilken AI-utvecklingen sker är såväl fascinerande som skrämmande. Open AI, företaget som står bakom Chat GPT, visade för ett tag sedan upp deras senaste modell för att skapa video, SORA. Denna modell finns inte ännu tillgänglig publikt även om det lär ske detta år. En av anledningarna till att man inte låter allmänheten leka med modellen är för att man vill låta allmänheten vänja sig vid tanken, vid kvaliteten och vid vad detta innebär för oss som samhälle. Vi är inte så långt ifrån att helt kunna låta en AI generera en spelfilm – en film där Jason Statham blir kär i Vin Diesel eller ett annat slut på Titanic (de får ju plats på den där flotten!).

En tsunami av AI-genererat innehåll

Det vi ser nu är bara början. Vi står upp till knäna, men snart står vi inför en tsunami av AI-genererat innehåll – oundviklig och överväldigande. Europool förutspår att redan 2026 kommer 90% av allt innehåll på nätet vara genererat av AI. Som den källkritiska människa du är, tar du kanske denna siffra med en näve grovkornigt himalayasalt. Jag tror dock att det kommer att bli svårt att gardera sig och det gäller att veta hur man kan ta skydd. Det gäller också för oss som jobbar i skolan att försöka hjälpa så många som möjligt att ta skydd.

Det går inte längre att helt lita på det du ser eller hör på internet. I min dator har jag tillgång till röster från flera rektorer, gymnasiechefer och chefer på utbildningsförvaltningen. Jag kan med några knapptryckningar få dem att säga vad som helst: ”Vi från utbildningsförvaltningen trotsar besparingskrav och kommer att chockhöja lärarnas löner med 15% - det har ni förtjänat.” Jag har det eftersom jag har varit runt och föreläst och försökt påvisa det jag just nu försöker förklara för dig som läser denna text. Mitt syfte har varit gott – andras syften kanske inte är lika goda.

Deepfejkade filmer och foton snart i Jönköpings skolor

Vi ser detta överallt; inför valet i Slovakien, världens tredje största konsument av öl, cirkulerade en förfalskad video där en presidentkandidat påstods lova högre alkoholskatter om han vann. Vi ser hur AI-generade bilder används av för att förstärka såväl pro-israeliska och pro-palestinska narrativ eller hur en deepfejkad video användes i ett videosamtal för att lura till sig 25 miljoner dollar. Vi ska inte ens börja prata om porren och hur lätt det är att skapa en förfalskad bild av en lärare, elev eller kändis. Jag är faktiskt förvånad över att vi i Jönköping inte har haft något sådan fall ännu.

Det här är vardag, det här är nu och vi behöver vänja oss. Men det kommer att vara svårt att värja sig.

Största hotet mot mänskligheten

World Economic forum identifierar AI-genererad missinformation och desinformation som det största hotet mot mänskligheten inom en två-årsperiod. USA är mitt i ett presidentval, det är EU-val i sommar och vi står inför en utmaning vi måste möta trots att vi kanske inte är redo.

Vad görs och vad kan vi göra?

Teknik används för att bekämpa teknik och det håller på att göras försök med vattenmärkning av innehåll där man bygger in en digital spårning av om innehållet är genererat av AI. Det kan vara en del av lösningen. Youtube kräver numera att innehållsskapare flaggar om innehåll har skapats med hjälp av AI.

Tyvärr så har det visat sig vara ganska lätt att ta sig runt detta och om vi har ett system där vi inte kan lita på klassificeringarna kan detta leda till ytterligare osäkerhet. En övertro till märkningarna gör ju att vi litar på att en bild på Jason Momoa som simmar naken i en svensk sjö är äkta om man har lyckats kringgå vattenmärkningen och den inte är flaggad som AI-genererad.

Därtill används AI för att bekämpa AI. Företagen som står bakom olika sociala medier har länge använt sig av AI för att flagga, spåra och blockera desinformation och missinformation. Dessa system är idag väldigt effektiva och lär i takt med AI-utvecklingen bli än mer effektiva. Men det är en katt-och-råtta-lek där mängden innehåll gör det svårt att stoppa allt som läggs upp.

Vi behöver ge våra elever kunskap

Det är tyvärr inte rimligt att tekniken helt ska lösa detta åt oss utan vi måste bli bättre på att ställa oss frågan om det är rimligt. Vi behöver hjälpa våra elever att ställa frågan om det är rimligt att Hillary Clinton är en kannibal eller att IS har eldat upp Eiffeltornet. Vi behöver vara sakkritiska och göra våra elever medvetna om att det innehåll de scrollar förbi kan ha åsikter, motiv och agendor. Men för det måste vi lära dem ord som åsikter, motiv och agendor. Vi måste ge dem tillräckligt med kunskap – kunskap att avgöra om något är rimligt.

Men varken vi, eller eleverna, kan vara experter i alla domäner. Vi kan inte heller gå runt och vara kritiska – då blir vi konspiratoriska - utan vi måste kunna ha något att lita på. Vi måste prata om avsändare och tillit, källtillit. Vi måste prata om varför är det rimligare att lita på innehåll från en nyhetssida än en influencer på Tik Tok, eller vilka syften en sida som Fria tider kan ha i att framställa en händelse på ett visst sätt.

Utbildning är vägen framåt

Vi behöver prata om algoritmer och hur flöden styrs av den uppmärksamhet du ger ett visst innehåll och hur våra flöden prioriterar innehåll som skapar engagemang – innehåll, som upprör, berör och gör oss bestörta.

Utbildning är vägen framåt och för att vi ska kunna utveckla motståndskraft behöver vi vara proaktiva – inte reaktiva. Vi behöver försöka föregå och bygga upp resiliens hellre än att reagera. Taiwan är ett föregångsland i detta där man försöker förekomma påverkanskampanjer genom att själva skapa deepfake-videos och nyheter om innehåll som man tror kan vara missledande och har förutsättningar att bli virala. Man visar alltså hur till exempel kinesiska intressen skulle kunna agera och visar också hur dessa videos och nyheter skapas. Detta är ett sätt öka medvetenheten och den källkritiska förståelsen hos befolkningen.

Därtill har man också ett system för faktagranskning som heter som heter Cofacts, collaborative fact checking. Där kan vem som helst flagga ett meddelande som möjligt bedrägeri eller spam. På så sätt får man en realtidsbild av vilken information som går viralt, oavsett om det är desinformation eller sant. Faktagranskningen är öppen och vem som helst kan bidra genom att verifiera eller avslå en granskning.

Ett privat, men beundransvärt projekt du kan prova med dina elever redan idag är CICERO GPT som skapats av Kim Elman. Det är en chattbot vars enda syfte är att utveckla källkritisk medvetenhet.

Vi är skyldiga att ge våra elever hopp

Det är en ny värld vi går in i. Vi står i tröskeln, eller kanske med en fot över tröskeln. Den kan tyckas vara skrämmande. Den kanske till och med gör oss förbannade. Jag tror att AI kan bidra till att skapa en fantastisk värld där kunskap blir tillgänglig, där AI hjälper oss att lösa några av de största problem vi har stått inför. Men vi kan inte längre blunda för AI, för AI är en del av den värld som håller på att växa fram och vi kan inte blunda för världen. Det är vi skyldiga oss själva och det är vi skyldiga våra elever. Vi är skyldiga dem att ge dem hopp, vi är skyldiga att ge dem kunskap! Vi är skyldiga att rädda dem innan de drunknar!