AI i bibliotek: etik, integritet och demokrati

Vilka utmaningar, möjligheter och svåra frågor kan AI innebära när det gäller etik, personlig integritet och demokrati? Hur ska biblioteken arbeta med dessa frågor och vilken kunskap behövs för att möta invånarnas behov? Dessa frågor var i fokus under ett webbinarium med forskaren och internetanalytikern Marcin de Kaminski. 

Marcin de Kaminski har lång erfarenhet av frågor som rör teknik och mänskliga rättigheter och har bland annat arbetat som chef för säkerhet och innovation på människorättsorganisationen Civil Rights Defenders. I sin föreläsning lyfte han folkbibliotekens viktiga roll som kunskapsresurs, men också risken att de blir den sista utposten för människor i digitalt utanförskap i ett allt mer digitaliserat samhälle.

Föreläsningen

Filmen är en inspelning av webbinariet ”AI i bibliotek – etik, integritet och demokrati”, arrangerat av Regionbibliotek Halland, Biblioteksutveckling Region Jönköpings län, Regionbibliotek Stockholm, Biblioteksutveckling Sörmland, Biblioteksutveckling Västernorrland, Biblioteksutveckling Region Jämtland Härjedalen, Biblioteksutveckling Region Blekinge Kronoberg och Biblioteksutveckling Region Örebro län inom det regionala nätverket ReDig. Webbinariet genomfördes den 8 december 2024.

You are currently viewing a placeholder content from YouTube. To access the actual content, click the button below. Please note that doing so will share data with third-party providers.

More Information

Unblock content Accept required service and unblock content

Etik: Vem styr AI – och för vems skull? 

I sin föreläsning betonade Marcin de Kaminski vikten av att anlägga ett etiskt perspektiv på utveckling och användning av AI genom att ställa frågor om makt, ansvar och transparens:

– Jag tycker det är oerhört viktigt att ha ett maktperspektiv när man pratar om teknik. För idag är den som äger tekniken också den som har makten, den som driver samhället framåt, säger Marcin. 

Han framhåller att AI-system alltid är skapade och styrda av någon, men att det ofta saknas insyn i hur de fungerar, vem som kontrollerar dem samt vilken data de är tränade på. Bristen på transparens är inte bara en teknisk fråga utan också en central etisk utmaning, särskilt när kommersiella aktörer prioriterar vinst framför samhällsnytta. 

Samtidigt som AI-tekniken utvecklas i snabb takt ser vi exempel som förstärker bias och skapar demokratiproblem. Systemen är till viss del automatiserade och styrda av algoritmer, vilket gör att systemens prioriteringar och beslut är osynliga för användaren. Marcin menar att det är viktigt att lära sig av misstag och förhindra att problem inte upprepas så att andra drabbas av något som skulle kunna förebyggas. Detta kräver att vi som använder tekniken vågar ställa kritiska frågor om vem som bygger den, vem som har tillgång till koden, och hur olika grupper påverkas av dess implementering.

Det är avgörande att utvecklingen av AI sker med ett fokus på demokratiska värderingar och ett ansvar för att säkerställa allmännyttan i dess tillämpningar. En del av lösningen för att balansera makten och främja yttrandefrihet kan enligt Marcin vara att arbeta med öppen data och öppen källkod. Genom att dela med sig av tekniken, till exempel att visa hur källkoden fungerar eller vilken data man använder, kan också tekniken demokratiseras. Just bristen på transparens hos de som utvecklar tekniken är en stor utmaning och ett enormt demokratiproblem idag, enligt Marcin.

Integritet 

Marcin de Kaminski pekar på att det är mycket relevant att diskutera integritetsfrågor kopplat till dagens AI-utveckling. Han lyfter konkreta dilemman utifrån tre exempel, framförallt vad gäller datainsamling.

Det första exemplet är Grindr, en datingapp som används av hbtqi-personer. Appen har varit extra viktig i länder där homosexualitet eller bisexualitet inte är tillåtet. Under åren 2012–2013 började dock användare av appen bli spårade genom dataläckor. Till slut förbättrade Grindr säkerhetsfunktionerna och försvårade möjligheterna att spåra data. 

Det andra exemplet som Marcin nämner är mensappar. Det finns en stor marknad för FemTech-appar som kartlägger kvinnors hälsa. De är ofta väldigt data- och annonsdrivna och samlar in mycket större mängd data än vad som behövs. Samtidigt sker just nu en svängning politiskt och frågan om kvinnohälsa och kontroll över kvinnors kroppar har åter blivit en politisk fråga. Marcin pekar på att vi har ett samhälle som drivs av insamling, systematisering och försäljning av persondata. Ofta kan den här typen av data vara mycket känsliga. Ett flertal av de appar som finns på marknaden i USA säljer vidare data till den som betalar och i flera fall har abortmotståndare köpt data som kartlägger enskilda kvinnor och organisationer som arbetar med aborträtt. 

Marcin poängterar att det finns anledning att fundera över vilken typ av data vi lämnar ifrån oss, både frivilligt och vad som bara följer med användning av olika tjänster. 

I sitt tredje exempel tar han upp annonsinställningar på sociala medier. TikTok och X är de två plattformar där annonsköpare har bäst möjlighet att rikta information till utvalda målgrupper. Detta kan vara positivt för relevansen av annonserna, men kan också användas för att manipulera och diskriminera. Ett exempel på det senare är Cambridge Analytica-skandalen, inför presidentvalet i USA 2016, då det blev tydligt hur Facebook sålde sin persondata vidare till annonsbolag. Dessa kunde sedan rikta sina politiska annonser på detaljnivå. 

Bibliotekens roll 

Utifrån tidigare perspektiv och resonemang i föreläsningen lyfter Marcin in bibliotekens roll i tillhandahållandet av teknik och integritet, men även kring andra utmaningar. Han pekar på det faktum att vi idag behöver använda olika typer av digitala system för att vara inkluderade samhällsmedborgare. Detta blir problematiskt då inte alla invånare förstår systemen, är intresserade eller har ekonomiska förutsättningar att använda digital teknik. Marcin ser också att samtalet om det digitala utanförskapet försvåras av att det inte längre är lika aktivt som det var när digitaliseringen av samhällstjänster påbörjades. Samtidigt finns fortfarande ett stort behov av stöd och hjälp. Människor som står inför digitala hinder söker sig inte sällan till ett bibliotek, en plats där de känner sig trygga i att de oftast kan få hjälp. Marcin anser att biblioteken spelar en stor roll i det digitaliserade samhället och man skulle rent av kunna kalla det en sista utpost. Här menar han dock att det allmänna borde ta ett större ansvar, det är inte rimligt att biblioteken ska axla det ansvaret ensamt.  

Vidare ser Marcin att det finns ett stort behov av att diskutera strukturella integritetsfrågor inom bibliotekens verksamhet. Detta är frågor som var relevanta för biblioteken redan innan internet, men som i dag har en annan form. Det kan handla om hur biblioteken använder och tillhandahåller digitala hjälpmedel och publika datorer på ett säkert sätt för alla. Detta handlar såväl om hur publika datorer placeras i lokalen som om personalens kunskap kring hur användardata hanteras i bibliotekens egna e-tjänster. Genom att biblioteken tillhandahåller teknik och är en öppen verksamhet som många väljer att vända sig till återkommer Marcin till att hanteringen av frågor som går utanför bibliotekens uppdrag behöver få en lösning.

Avslutningsvis lyfter Marcin utmaningen kring hur mycket kunskap man behöver ha om AI och digitalisering för att kunna hjälpa en besökare. Här menar han att vi alla har olika kompetenser men att vi ändå kan guida rätt med de kunskaper och ingångar vi har. Marcin kommer även senare, under den efterföljande frågestunden, in på att en viktig aspekt är att sträva efter en god medie- och informationskunnighet (MIK). Speciellt eftersom vi inte vet fullt ut hur AI-tekniken kommer att påverka biblioteken i framtiden. Ett källkritiskt förhållningssätt kan vara ett nog så bra vaccin att satsa på inför kommande utmaningar, både för personalen och bibliotekets besökare. 

Ett av de problem som Marcin lyfter är att hitta ett sätt att hantera svåra frågor. Att dra gränser är svårt och kräver ett likvärdigt tänk hos hela personalgruppen. Besök gärna Digiteketartikeln Ska biblioteket hjälpa till med allt?  

Reflektionsfrågor

Marcin de Kaminski pekar på flera problem kopplade till etik och integritet i sin föreläsning.

• Vad behöver du som biblioteksanställd kunna kring ämnet?
• Bör all personal ha samma kunskap?
• Saknas det något för att ni ska kunna arbeta på ett bra sätt med de här frågorna på ditt bibliotek?

Det finns också en diskussion kring ansvarsfrågan för dig som som tjänsteperson och ditt folkbibliotek gentemot era användare.

• Vilka åtgärder kan du/ni vidta för att skydda besökares integritet när de använder bibliotekets tjänster?
• Vet du/ni hur data samlas in i era olika tjänster på ert bibliotek?
• Om inte, hur kan du/ni ta reda på det?

Marcin de Kaminski pratar om att tekniken kan demokratiseras genom användning av öppen data och öppen källkod.

• Hur tänker du att ditt bibliotek kan bidra till den utvecklingen?
• Vad skulle kunna vara ett första steg? Vad gör ni redan idag?

Marcin menar att medie- och informationskunnighet (MIK) är av stor betydelse när vi står inför utmaningar som är kopplade till bland annat AI.

• Hur kan vi öka medvetenheten om teknikens påverkan på demokratin bland våra besökare?
• Hur arbetar du och ditt bibliotek med MIK kopplat till bibliotekets demokratiuppdrag?

I AI-kommissionens Färdplan för Sverige, lyfts folkbiblioteken särskilt fram och föreslås att få rollen att främja användning av AI-teknik genom att vara en plats där allmänheten kostnadsfritt ska kunna prova på och använda AI-verktyg.

• Vilken roll tycker du att biblioteken ska ha utifrån sitt uppdrag?
• Räcker det att biblioteken arbetar med att stärka allmänhetens tekniska AI-kunnighet eller ska vi också arbeta med de kritiska förmågorna?