Vem styr över algoritmerna? Vem har ansvarsskyldighet?
Eftersom algoritmer styr stora delar av hur vårt samhälle fungerar är frågan om insyn i deras utformning och i de beslut de påverkar berättigad. Samtidigt är de mest dominanta algoritmerna grunden för företagens kommersiella framgång. Mycket av algoritmernas utformning är hemlig, inte minst på grund av konkurrenssituationen. Det finns en politisk diskussion kring insyn i utformningen av algoritmer. Bland andra har Tysklands nuvarande förbundskansler Angela Merkel lyft fram problemet med brist på transparens. Går det till exempel att rättvisemärka algoritmer eller kan vi diskutera algoritmer utifrån offentlighetsprincipen? Algoritmiska beslut drabbar inte enbart enskilda individer utan även samhället i stort. I den amerikanska presidentvalskampanjen hösten 2016 förekom återkommande anklagelser om olika ideologiska vinklingar av Google och sociala medier och deras algoritmer.
Algoritmer är dynamiska och förändras kontinuerligt samtidigt som de förfinas och därmed blir mer omfattande. Det är närmast omöjligt att studera algoritmers påverkan på ett exakt sätt då kod och människor är i ständig rörelse. Det finns helt enkelt ingen neutral punkt som algoritmer kan studeras utifrån. Olika tjänster och system interagerar hela tiden med varandra, bland annat beroende på de data som de bygger sina tjänster på och de plattformar som tjänsten används genom. De flesta stora tjänster kan i dag sägas operera med algoritmiska system snarare än med enstaka algoritmer. Det gör en fullständig insyn närmast omöjlig.
Algoritmer kan inte studeras isolerade utan måste ses som en del av en teknisk och social helhet. Samtidigt har automatiserat algoritmiskt beslutsfattande börjat genomsyra allt fler delar av samhället och lagstiftning kring detta börjat ta form. Exempelvis så innehåller Europeiska unionens nya dataskyddslagstiftning en ”Rätt till förklaring” gällande algoritmiska beslut om en person. Ett sådant algoritmiskt beslut kan handla om kreditvärdighet eller försäkringsklassning.
Diskussionen om insyn och ansvarsskyldighet kommer troligen att öka ju tydligare konsekvenserna av algoritmiska beslut blir för individen och samhället i stort. En sådan diskussion måste vara nyanserad och ta hänsyn till att algoritmiskt beslutsfattande kan ta sig olika uttryck i olika organisationer. Det kan röra sig om produktion av information, konsumtion på internet, organisering av arbete inom den privata sektorn eller – kanske i framtiden – beslut som rör socialförsäkringar inom offentlig eller privat sektor. Dessa exempel har olika delar av lagstiftningen att förhålla sig till och får helt olika konsekvenser för samhället och individen.
Reflektionsfråga
Finns det något system ni använder på ert bibliotek där ni inte så att säga äger algoritmerna och där själva verktyget eller systemen begränsar vad ni kan göra? Har ni tillgång till exempelvis e-bokstjänstens algoritmer och har möjlighet att påverka hur den väljer ut och presenterar böcker? Kan detta vara problematiskt?
