AI och desinformation

Det är lätt att tänka att du inte påverkas av uppenbart fejkade eller satiriska klipp. Men även när du vet att något är satir eller överdrivet kan det ändå påverka hur du tänker och känner kring vissa frågor eller personer. Detta beror på att din hjärna inte alltid skiljer på vad som är sant och vad som är falskt, speciellt när vi utsätts för samma budskap upprepade gånger. Psykologiskt sett kan det leda till att du börjar tvivla, eller att du undermedvetet påverkas av en bild eller ett påstående, trots att du rationellt vet att det inte är sant.

Ett exempel på detta är hur Donald Trump försökte avfärda sitt kontroversiella uttalande "Grab 'em by the pussy" som fake news när det först avslöjades. Vid den tidpunkten var det en uppenbar ljudinspelning och mycket svårt att förneka dess äkthet. Men med dagens AI-teknologi skulle samma uttalande kunna bemötas på ett helt annat sätt.

Trump – eller någon annan i en liknande situation – skulle med större trovärdighet kunna hävda att det var en AI-genererad röstkloning eller en manipulerad video. Den tekniska utvecklingen gör det svårare att avgöra vad som är verkligt och vad som är falskt, och det skapar ett farligt utrymme för att manipulera sanningen.

Att dränka sanningen i en flod av AI-genererat innehåll

Den stora mängden AI-genererat innehåll, vare sig det är texter, bilder, ljud eller videor, gör att sanningen riskerar att "dränkas" i en flod av falsk eller manipulerad information. Även om vi idag kan upptäcka vissa uppenbara fejkscenarier, gör teknikens framsteg det allt svårare att skilja mellan sant och falskt.

Detta gör att det blir lättare för personer att undkomma ansvar för sina handlingar genom att skylla på teknikens kapacitet att skapa övertygande men falska bevis.

Det kan också användas för att förvirra och skapa osäkerhet i offentligheten

När sanningen blandas med desinformation och felaktig information kan det leda till misstro mot hela informationsflödet. Detta påverkar vårt samhällsklimat och vår förmåga att fatta informerade beslut.

Om du inte längre kan lita på vad du ser eller hör, blir det allt svårare att navigera i den digitala världen – och i förlängningen påverkar det vår tillit till varandra, till medier och till institutioner.