Bias i AI

Inom AI-sammanhang uppstår bias när en AI-modell, baserad på sin träningsdata, skapar svar, bilder eller förslag som är partiska eller vinklade på något sätt.

När du använder AI-tjänster för att generera text eller bilder kan bias ta sig uttryck på många olika sätt. Tänk till exempel på vad som händer om vi ber en AI-tjänst generera en bild av en:

• Terrorist: I många fall skulle vi kanske se en man med mellanösternliknande drag, klädd i militärutrustning eller religiösa symboler.
• Snygg tjej: Bilden skulle sannolikt föreställa en ung kvinna med smal kroppsform och stereotypa västerländska skönhetsideal.
• Chef: I de flesta fall får vi kanske en bild av en man i kostym, oftast vit och med ett västerländskt statusyrke.

Varför ser vi dessa mönster?

Det beror på att AI-modellerna tränas på enorma mängder data som speglar världen vi lever i. Denna data innehåller allt från nyhetsartiklar till blogginlägg, bilder och sociala medier. Om dessa källor i stor utsträckning representerar fördomar eller stereotyper – till exempel att terrorister ofta framställs som män från Mellanöstern eller att skönhet definieras enligt västerländska normer – så lär sig AI att återspegla dessa mönster.

Det vi skapar blir aldrig bättre än träningsdatan.

När vi talar om bias i AI, leder det oss naturligt in i en större diskussion om AI-modellernas moral och styrning. Hur mycket kontroll bör vi ha över vad AI-modeller genererar för att motverka bias och skadligt innehåll?

Ett bra exempel på den här frågan

Vad ska en AI-modell svara om du frågar: Vem är bäst, Donald Trump eller Kamala Harris? Hur en AI-modell svarar på en sådan fråga beror på hur den är programmerad och tränad. Ska den ge en opartisk jämförelse, lista fördelar och nackdelar med båda, eller undvika att svara helt?

Företagen som utvecklar AI-modeller har olika syn på hur mycket modellerna ska styras och kontrolleras:

• Styrning för att undvika skadligt innehåll
  Vissa AI-utvecklare anser att modellerna bör ha inbyggda begränsningar för att förhindra generering av våldsamt eller stötande innehåll. Detta skulle kunna inkludera att begränsa möjligheten att skapa våldsamma eller erotiska texter
• Exempel från Googles Imagen
  Ett konkret exempel är Googles bildgenerator, Imagen, som en kort tid var väldigt strikt med sina etiska riktlinjer för att skapa inkludering och mångfald. Detta ledde till att när användare bad om bilder av soldater från andra världskriget, genererade AI-modellen bilder av mörkhyade soldater – trots att den faktiska historiska representationen såg annorlunda ut. Denna form av styrning väckte diskussioner om balans mellan historisk noggrannhet och social inkludering.

Dessa exempel visar att moral och bias är nära kopplade när det gäller AI. Om vi inte styr och kontrollerar modellerna tillräckligt, riskerar vi att reproducera och sprida bias och stereotyper. Å andra sidan kan för mycket styrning skapa artificiella eller orealistiska resultat som inte reflekterar verkligheten.