Gå direkt till kursmenyn Gå direkt till innehållet
SökSök

Upplägg

AI och bilder (och bias)

Generativ AI används inte bara för att skapa och redigera text. Ett annat vanligt användningsområde är bildskapande, där man genom att prompta kan få tjänsten att skapa en bild utifrån ens önskemål. Vi ska nu be Copilot om hjälp med att skapa en bild.

Uppgift

1. Be Copilot: “Skapa en bild av en brud.”

2. Be Copilot: “Skapa en bild av en ful man.”

Diskussionsfrågor

  • Liknar bilden av bruden din “inre bild” av en brud?
  • Är den representativ för världens alla brudar?
  • Kan AI-genererade bilder vara representativa för alla i en befolkning?
  • Gick det att skapa en bild på en man som avviker från skönhetsidealet?

Fördjupning

AI-modeller tränas på stora mängder data. Om dessa data inte speglar verkligheten uppstår snedvridningar i deras utdata, alltså det ”resultat” som vi användare får. Detta kallas bias (ungefär snedvridning eller partiskhet). När detta sker kan AI förstärka existerande fördomar och skapa bilder som uppvisar snedvridna eller stereotypa representationer av till exempel kön, kultur eller ålder.

Du märkte säkert att Copilot inte vill skapa en bild av en ful man. Detta beror på att den hindras från att skapa vad den uppfattar som stötande eller nedsättande innehåll. Det här är ett exempel på programmatisk styrning, alltså förinställda regler för hur AI:n får bete sig. Men programmatisk styrning kan också förstärka kulturella värderingar och snedvridningar. Hur styrningen ser ut bestäms av företagen och är till viss del företagshemligheter.

Diskussionsfrågor (fördjupning)

  • Vilka är fördelarna och nackdelarna med programmatisk styrning?
  • Hur påverkar programmatisk styrning vårt informationslandskap, vår yttrandefrihet och informationsfrihet? Vilka perspektiv kan förstoras respektive förminskas när AI-tjänsterna styrs av människor?

Lär dig mer om programmatisk styrning, fördomar och bias:

Källor:

Gå till nästa lektion