Algoritmer är kulturellt kodade

Algoritmer är en djupt integrerad del av vårt samhälle. Algoritmer ger också uttryck för dominerande föreställningar och värderingar i vår kultur. Det går att uttrycka i termer av att algoritmer kodifierar dessa föreställningar och värderingar. Vi ser det till exempel i hur en kulturs värderingar om offentlig amning och den kvinnliga kroppen leder till att Facebook censurerar alltför ”explicita” bilder på amning. Det får i sin tur genomslag världen över genom de värderingar som finns inbyggda i Facebooks algoritm, vilken automatiskt letar upp och döljer kvinnlig nakenhet. Det här leder till att även schematiskt ritade bilder på bröst vid till exempel en kampanj för bröstcancer kan bli osynliggjorda.

Det som kan framstå som självklart i den kultur där algoritmen är skapad, kan framstå som underligt, kanske till och med stötande, i en annan kultur. Andra exempel visar på rasistiska värderingar som syns i Googles och Flickrs algoritmer för automatisk taggning av bilder. Google har exempelvis behövt be om ursäkt för att en algoritm för bildbeskrivning taggade två svarta personer med ”gorillas”. Man har också funnit att Google Sök i högre utsträckning visar annonser för välavlönade jobb för manliga profiler än för kvinnliga.

Dessa exempel gör det tydligt hur kulturella värderingar, fördomar och etiska förhållningssätt finns inskrivna i algoritmer som i sin tur har möjlighet att påverka andra. Algoritmer och samhälle formar därmed varandra.

Det börjar också bli tydligt att algoritmer och hur vi upplever dem påverkar våra känsloliv och hur vi agerar. Människor förhåller sig inte bara passiva till algoritmer, utan många gånger agerar vi på ett sådant sätt som vi tror är gynnsamt för oss i relation till de algoritmer vi interagerar med. Ett exempel är då vi gillar vissa nyheter på Facebook för att vi vill att just denna sorts nyheter ska rankas högt. Användare med sina kulturella bagage och ideologiska positioner är därför medskapare av algoritmernas effekter. Eftersom algoritmers utformning alltid anpassas efter användares interagerande med dem, blir det möjligt att hävda att algoritmer delvis är medskapade av användare.

Reflektionsfråga

I journalistiska samband med hot, hat och toxiskt innehåll på nätet diskuteras ibland det som kallas för strategisk tystnad, strategic silence, det vill säga att man till exempel vid en masskjutning väljer att inte sprida förövarens manifest för att minska de aspekterna av mediebevakningen. I fallet med Breivik så var det ju en av honom beräknad effekt och något han eftersökte för att sprida sina idéer. Samma tanke går att applicera på hur vi beter oss i vår nätvardag: det kommer alltid att finnas människor som har fel på nätet, men i en algoritmstyrd medievärld kommer varje interaktion med någon leda till att innehållet får större spridning. Kan det vara värt att ignorera en del dumheter för att minimera deras spridning?