Lära om AI
Antal Sidor: 20
AI och desinformation
Enligt World Economic Forums Global Risk Report 2024 är desinformation och felaktig information den största globala risken i ett tioårsperspektiv. Denna risk överstiger hot som extremväder, polarisering, cyberosäkerhet och ekonomiska kriser.
Listan är tydlig:
- Desinformation/Felaktig information
- Extremväder
- Polarisering
- Cyberosäkerhet
- Inbördeskrig
- Bristande ekonomiska utvecklingsmöjligheter
- Inflation
- Ofrivillig migration
- Lågkonjunktur
- Utsläpp
AI gör det enklare än någonsin att sprida desinformation och manipulera människor. Genom AI-genererade texter, bilder och ljud kan man skapa mycket trovärdiga fejkscenarier som lurar människor att tro på osanningar.
Detta påverkar inte bara individer, utan kan ha långtgående konsekvenser för samhällen, företag och politiska processer. Låt oss titta på några exempel på hur detta sker idag:
- Fejkat Teams-möte: En anställd lurades nyligen att betala ut 25 miljoner dollar efter att ha trott att han talade med sin chef i ett Teams-möte. Genom AI-genererad video och ljud kunde bedragarna skapa ett trovärdigt samtal som såg helt verkligt ut.
- Ansiktsmanipulation i realtid: Med dagens AI-teknologi kan man enkelt ladda upp en bild och sedan byta ansikte i en webbkamera i realtid. Detta gör det svårt att veta vem man faktiskt pratar med på videosamtal.
- Röstkloning på 30 sekunder: Det räcker nu med 30 sekunder av en persons röst för att AI ska kunna klona den och få personen att säga vad som helst. Detta har använts i flera bedrägerier och skandaler runt om i världen.
- Fejkad röst i politiska kampanjer: Under presidentvalet i Slovakien manipulerade någon en kandidats röst och fick honom att säga att om han vann valet skulle han höja skatten på öl – ett känsligt ämne i ett av världens största ölkonsumerande länder. Denna falska information fick stor spridning och påverkade väljare.
Det är tydligt att AI-genererat innehåll kan få enorma konsekvenser om det används på fel sätt. Ett exempel är när en lärare, efter att ha blivit arg på sin chef, klonade rektorns röst och skapade ett fejksamtal där chefen uttalade sig rasistiskt. Ett annat exempel är hur Donald Trump sprider AI-genererade bilder på sociala medier utan att noggrant kontrollera om de är äkta.
AI och falska personer online
I sociala medier ser vi nu hur AI-influencers, som inte ens existerar i verkligheten, kan ha miljontals följare. En sådan influencer kan ha över 2 miljoner följare trots att de bara är en digital skapelse. Detta visar hur AI kan skapa förtroende och följarskaror utan att det finns en verklig person bakom.
I porren
Tyvärr ser vi också att AI används i mer oetiska sammanhang, som inom pornografin. Enligt en rapport utgör över 90% av alla deepfake-videor pornografiskt innehåll, där oskyldiga personer får sina ansikten manipulerade till dessa filmer.
Det är lätt att tänka att du inte påverkas av uppenbart fejkade eller satiriska klipp. Men även när du vet att något är satir eller överdrivet kan det ändå påverka hur du tänker och känner kring vissa frågor eller personer. Detta beror på att din hjärna inte alltid skiljer på vad som är sant och vad som är falskt, speciellt när vi utsätts för samma budskap upprepade gånger. Psykologiskt sett kan det leda till att du börjar tvivla, eller att du undermedvetet påverkas av en bild eller ett påstående, trots att du rationellt vet att det inte är sant.
Ett exempel på detta är hur Donald Trump försökte avfärda sitt kontroversiella uttalande "Grab 'em by the pussy" som fake news när det först avslöjades. Vid den tidpunkten var det en uppenbar ljudinspelning och mycket svårt att förneka dess äkthet. Men med dagens AI-teknologi skulle samma uttalande kunna bemötas på ett helt annat sätt.
Trump – eller någon annan i en liknande situation – skulle med större trovärdighet kunna hävda att det var en AI-genererad röstkloning eller en manipulerad video. Den tekniska utvecklingen gör det svårare att avgöra vad som är verkligt och vad som är falskt, och det skapar ett farligt utrymme för att manipulera sanningen.
Att dränka sanningen i en flod av AI-genererat innehåll
Den stora mängden AI-genererat innehåll, vare sig det är texter, bilder, ljud eller videor, gör att sanningen riskerar att "dränkas" i en flod av falsk eller manipulerad information. Även om vi idag kan upptäcka vissa uppenbara fejkscenarier, gör teknikens framsteg det allt svårare att skilja mellan sant och falskt.
Detta gör att det blir lättare för personer att undkomma ansvar för sina handlingar genom att skylla på teknikens kapacitet att skapa övertygande men falska bevis.
Det kan också användas för att förvirra och skapa osäkerhet i offentligheten
När sanningen blandas med desinformation och felaktig information kan det leda till misstro mot hela informationsflödet. Detta påverkar vårt samhällsklimat och vår förmåga att fatta informerade beslut.
Om du inte längre kan lita på vad du ser eller hör, blir det allt svårare att navigera i den digitala världen – och i förlängningen påverkar det vår tillit till varandra, till medier och till institutioner.
- Publicerad: 16 sep 2024
- Senast uppdaterad: 19 sep 2024