Hur påverkar algoritmer din vardag?

Du påverkas varje dag av digitala algoritmer på en mängd olika sätt.  Det kan handla om vilka nyheter som visas för dig i sociala medier eller vilken väg som rekommenderas av din GPS. Det kan handla om vilka potentiella partnermatchningar som presenteras för dig i en datingapp eller hur det går för dina fonder på börsen.  Algoritmer kan också vara inblandade i din låneansökan för drömhuset där ett antal uppställda kriterier kanske automatiskt avslår din ansökan utan att någon mänsklig tjänsteman har varit inblandad i processen.

I princip alla aktiviteter på sociala medier och många andra nätbaserade tjänster bygger på ett eller annat sätt på att algoritmer, och inte människor, väljer ut och sorterar vad du som slutanvändare ska presenteras för.  Det finns ju också en symbiotisk aspekt här; ju mer information du delar med dig av på till exempel sociala medier, ju mer data har algoritmerna att jobba med. För att exemplifiera: Du skriver mycket om jakt på sociala medier, delar relaterade länkar och deltar i diskussioner. Denna informationen kopplas på något sätt till dig som person och algoritmen väljer att prioritera jaktrelaterade annonser istället för till exempel cykelannonser. Denna information används också i ett större sammanhang där den lilla pusselbiten att män i fyrtioårsåldern som bor i småstad uppskattar jakt hjälper till att bygga ett större pussel över hur män i dessa kategorier är och vad de uppskattar. Algoritmerna behöver en mängd data för att kunna vara precisa i sina prediktioner.

Algoritmer är som en svart låda: Du stoppar in något, till exempel en sökning på Google, algoritmerna jobbar och du får ut något resultat. Du har dock ingen aning om hur algoritmerna har kommit fram till resultatet och hur de har prioriterat för att just du ska få de sökresultat du får. Ändrar någon av de stora digitala jättarna i sina algoritmer så påverkas miljarder människor på en gång. Till exempel så skulle Google kunna ändra några rader kod och du hade fått helt andra sökresultat än du hade varit van vid. 

Algoritmer i sig är inte neutrala utan speglar helt enkelt de värderingar och erfarenheter som de som programmerat koden har. Det finns en uppsjö exempel på att algoritmer uppvisar bias, det vill säga olika typer av icke-neutrala och direkt fördomsfulla beteende. Till exempel har Google visat annonser för höginkomstjobb till män i större utsträckning än till kvinnor. En algoritm som användes för att prioritera vårdtagare vid amerikanska sjukhus visade sig förfördela afroamerikaner i de automatiserade vårdrekommendationerna. Ett annat exempel är Microsoft Twitter-bot Tay vars artificiella intelligens lärde sig av andra Twitteranvändare och började uttrycka sig sexistiskt och rasistiskt. 

Reflektionsfråga

Hade du velat leva i en värld där digitala tjänster (Facebook, Netflix, Spotify osv.) inte hade försökt anpassa sitt innehåll för att passa dig och dina vanor?

Övning

Gå till er lokala bibliotekskatalog och sök på en författare. Försök utröna hur er sorteringsalgoritm har kommit fram till att just en viss titel ska placeras överst. Går det att utröna någon logik?