AI i bibliotek: AI i det nya medielandskapet

Anne Stigell: I en tid när AI-genererat innehåll blir allt vanligare står biblioteken inför ett antal utmaningar kring urval, mediebestånd och kvalitetsgranskning. Hur ska biblioteken navigera i detta landskap, och vilka verktyg behövs för att upprätthålla ett kritiskt förhållningså tt?

Välkomna till det fjärde seminariet i serien AI och bibliotek, ett samarrangemang av sex regionbibliotek och biblioteksverksamheter. Vi fokuserar på folkbibliotekens perspektiv och vill lyfta utmaningar och möjligheter, förväntningar och förhoppningar. Vi vill också försöka besvara frågeställningar om biblioteken och vår omvärld i förhållande till AI.

I AI-kommissionens färdplan för Sverige, som presenterades för snart ett år sedan, föreslås en satsning på folkbiblioteken med cirka 500 miljoner kronor under åren 2025–2029. Utgångspunkten är bibliotekens uppdrag att främja användning av informationsteknik för kunskapsinhämtning och lärande. Folkbildningen lyfts fram som en viktig samverkanspartner för att säkerställa att allmänheten får de grundkunskaper som behövs för att vara en del av samhället idag.

Med detta i åtanke kommer vi om en stund att ha ett panelsamtal med fyra deltagare som diskuterar bibliotekens framtida utmaningar. Vi inleder dock med en presentation av de AI-riktlinjer som tagits fram av Myndigheten för digital förvaltning om offentlig verksamhet och AI.

Vår ciceron är Mats Snäll, senior rådgivare på DIGG. Mats har arbetat länge med dessa frågor och varit ansvarig för just dessa riktlinjer.

Mats Snäll: Tack! Det är roligt att vara här, och bibliotek brinner jag mycket för. Jag arbetar mycket med Digital idag, en rörelse som avser att öka kunskapen om digitalisering. Numera handlar det mycket om AI, och där handlar det i stor utsträckning om att komma ut på biblioteken.

Jag ska presentera riktlinjerna, men kommer inte att gå in på dem i detalj. Jag kommer att beröra dem och prata en del runt ämnet, och ni kommer också att märka varför vi pratar om AI och varför det finns behov av riktlinjer och andra typer av policydokument eller vägledningar.

Jag kommer från DIGG, Myndigheten för digital förvaltning. Vi har funnits i sju år, så jag anser inte att vi är en ny myndighet längre. Man har dessutom föreslagit att vi ska slå oss samman med en annan myndighet, så vi kommer att bli en helt ny konstruktion. Jag har själv varit inom offentlig förvaltning i över 30 år och arbetat med utveckling och digitalisering, på framkant, med innovation, AI och andra inslag.

Jag ledde uppdraget att ta fram riktlinjer som vi utarbetade under förra hösten och levererade i januari i år.

Vi digitaliserar Sverige, säger vi från DIGG. Vi stöder hela den offentliga förvaltningens digitalisering och indirekt hela Sveriges digitalisering. Ni kan gärna läsa på och titta på vad vi har – vi har mycket matnyttigt även när det gäller AI, förutom riktlinjerna.

Detta är den nya intelligensens tid, kan man säga. Det är också en tid med många paradoxer och mycket att reda ut och förstå. Vi behöver verkligen kompetenshöja oss. Jag tycker det var ett föredömligt förslag att satsa på bibliotek som en plats där man kompetenshöjer sig. Bibliotek är platsen för att förmedla all världens fakta – om man inte går till ChatGPT.

Detta är ett vägval för människor. På samma sätt som valet ställdes till en figur i Matrixfilmerna i inledningen, har vi ett val idag att ta oss an detta på något sätt. De som känner till filmen vet att det handlar om de piller som huvudpersonen fick erbjudandet att ta: det blå pillret – tar man det vaknar man upp och allting är som förut. Tar man det röda får man veta sanningen. Visst vill vi det, men till vilket pris?

Det är bra att beröra detta och tala om vad det handlar om. EU har definierat vad artificiell intelligens är, och det är denna definition som gäller för oss som är medlemmar. Det finns många olika förklaringar om vad AI är, och många olika typer av artificiell intelligens. Jag vill påpeka att riktlinjerna vi tog fram handlar om generativ AI, eller AI för allmänna ändamål.

Det är en intelligens som inte är mänsklig. Den är konstruerad av oss människor så att den inte konstruerar sig själv, men den är inte mänsklig, även om vi kan se någon form av intelligens. Det har varit en lång resa som startade redan på 1950-talet. Sedan har tekniken, materialen och möjligheten att använda elektricitet på ett mycket mer effektivt sätt utvecklats, så att vi kan göra fler beräkningar och har enorm beräkningskraft. Det är detta som gjorde att man 2022 kunde lansera en tjänst som ChatGPT.

Inom vetenskapen pratar man om artificiell generell superintelligens, som kommer att vara en intelligens som är autonom och kan utveckla sig själv, och som möjligen kan göra mycket utan att vi människor är inblandade.

Alla använder AI, i princip – ibland vet vi inte om det, åtminstone så länge vi är digitala. Men alla påverkas av AI, även de som inte är digitala kommer att påverkas, inte minst när det gäller sådant som är bra för oss: att hjälpa oss i vardagen på olika sätt, översätta, vaccinera, ge oss mediciner, identifiera sjukdomar och bota oss. Här finns många positiva effekter som vi får oavsett hur digitala vi är.

Innan vi går vidare: fundera över var du står i detta. Vad tänker du om AI? Är det något som är överdrivet? Är detta bara statistik, och med statistik kan man säga vad som helst, och när hysterin eller entusiasmen har lagt sig går vi tillbaka och allting är som förut och en ny trend tar över? Eller kommer AI att rädda världen eller kanske förgöra den? Kommer denna fantastiska intelligens att fixa allting och ställa svar på alla frågor vi ställer – till och med de vi inte ställer? Kommer den att lösa alla utmaningar eller skapa enorma problem som vi inte kan hantera? Detta kan ni ta med er under den fortsatta presentationen.

Vilken väg ska biblioteken ta i detta?

Vi befinner oss i ett landskap idag som saknar vägar. Vi håller på och försöker bygga upp vägar, men vi har inga vägar att gå. Vägledningen eller guidningen i detta landskap blir ganska komplicerad.

På uppdrag av regeringen tog vi fram riktlinjer för offentlig förvaltning och användning av generativ AI förra hösten. Det var som att kasta sig ut och göra en karta över ett väglöst landskap. Vi sonderade och använde faktiskt AI för att titta på vilka behov eller saker vi skulle täcka in, och vi kom fram till riktlinjer för offentlig förvaltning som kan användas som ett praktiskt stöd för att ge trygghet – för att man ska våga ta sig an denna resa eller möjlighet att använda den fulla potentialen av AI.

Vi har tidigare rapporterat från DIGG att man kan tjäna 140 miljarder eller omfördela kapacitet inom offentlig förvaltning till upp till 140 miljarder kronor årligen om man använder den fulla potentialen av AI.

Detta var långt innan generativ AI kom in i bilden, och sedan har nya undersökningar visat på ännu större potential. Men för att använda denna potential måste man sätta igång. Detta är ett steg att sätta igång – att ta sig an och titta på riktlinjerna, att känna att det finns någon trygghet i detta väglösa landskap.

Ni hittar riktlinjerna på digg.se/AI och de är läsbara för både människor och maskiner, eftersom de publiceras på webben så att alla uppdaterade riktlinjer finns där.

Vi har 18 riktlinjer på sju områden. Vi pratar mycket om dataskydd och personuppgiftsbehandling, och där har IMY gjort sin del och varit den myndighet vi samverkade med under framtagandet av riktlinjerna. Sedan har vi pratat om informationssäkerhet, arbetsrätt, etik, ledning och ansvar, anskaffning av AI och upphovsrätt.

Upphovsrätt och arbetsrätt är två områden som inte tidigare talats lika mycket om kring AI, men som nu har blivit mycket mer omtalade och diskuterade.

Vi pratar om mänsklig kontroll. Vi har full förmåga idag att ha mänsklig kontroll när det gäller användning av generativ AI. Detta är hämtat ur riktlinjen för att vi behöver ha mänsklig kontroll när man använder generativ AI.

Ibland kanske man känner att man inte har riktigt kontroll i den digitala världen. Här blir biblioteken med sin möjlighet att öka kompetens eller vägleda människor till att skaffa kompetens en viktig aktör.

En annan sak som riktlinjerna betonar är upphovsrätten. Det är en stor fråga utifrån bibliotekens roll att förmedla verk, litteratur, kunskap och fakta. Att man också ska stå för källhänvisning eller tala om vad detta är och vem som är ansvarig.

Generativ AI förändrar spelplanen för immaterialrätt och upphovsrätt. Det blir en helt ny situation när något skapas utifrån befintliga fakta eller befintliga verk, och då väcks frågor om rättigheter till skapade verk, risker för intrång i befintliga upphovsrätter och hanteringen av den data som matas in i en generativ AI. Detta är en mycket viktig del att ta sig an.

Jag tror inte att riktlinjerna kommer att gälla för evigt i sin form. De är helt nya och kommer att behöva ändras. Men vi har konstaterat att de behöver inte lika mycket ändring som vi trodde när vi publicerade dem i början av januari. Vid ett möte häromdagen konstaterade vi att vi inte ännu har behövt göra några större ändringar i sak i någon av riktlinjerna. De har varit mer hållbara än vad vi trodde. Men just upphovsrätten är en mycket viktig del.

Riktlinjerna säger: ta fram en AI-policy. Det är första steget. En policy kan vara ett dokument, en riktlinje eller en vägledning – man kan kalla det vad man vill. Vi själva på DIGG har tagit fram en policy för internt bruk, och vi kommer också att ta fram en intern riktlinje för användningen av generativ AI eller AI internt på DIGG.

Detta kan vara viktigt även för bibliotek: att ta fram en AI-policy eller vad man nu vill kalla det. Jag tycker att man ska göra det tillsammans, för ni har liknande verksamheter på alla bibliotek, oavsett typ av bibliotek och oavsett vilka kunder eller vilken krets som besöker biblioteken. Jag tycker att detta är en mycket bra idé, och den diskuterade jag med folk på biblioteksmässan i Borås nyligen också.

Men vem kan göra det? Vem ska göra detta? Det vet jag inte. Jag tror säkert att stora bibliotek behöver en egen policy för sin verksamhet, men sedan måste många kunna ansluta sig och ratificera eller anpassa en sådan policy och börja använda den. Jag tror att det gäller att få till en samlande kraft och sedan bara göra det, och sedan får man acceptera att man behöver ändra eller anpassa den ibland.

Detta är KLYS rekommendationer. KLYS är en branschorganisation för hantverkare inom kultur. Jag rekommenderar att ni läser detta. Jag kan kanske inte stå för allting eftersom jag representerar offentlig förvaltning, men detta är ett utmärkt exempel på hur man ser på AI från den andra sidan – de som ska skyddas. De människor som skapar verk eller saker som bör skyddas. Här kan ni gärna gå och ta inspiration till era riktlinjer.

Vem bestämmer? Vem leder? Vem har modet? Det är också en viktig fråga. Till exempel: vem är det som tar tag i riktlinjer för hela biblioteksrörelsen?

Här brukar jag prata mycket om de förutsättningar vi har i det offentliga när det gäller våra organisationer, och vi har tre huvudförutsättningar:

1. Kulturen – det som baseras på etik och värdering. Ganska givet kan vi tycka ofta, men det är något som man ständigt kan arbeta med. Här kan det finnas en nyfikenhet, och skulle jag peka på något som står för bibliotekskulturen så är det intresset för människor – att man verkligen bryr sig om människor som kommer dit och försöker guida dem nästan oavsett vilken fråga de har. Vid utvecklingen av covidbevis såg vi till exempel att biblioteken såg till att människor fick ut dessa även på papper när man skulle kunna gå på bio. Detta intresse för människor ligger i kulturen, kanske också nyfikenheten att hitta fakta om saker.
2. Kapacitet – det är oftast givet. Man har en budget, en kundkrets, en kommun av en viss storlek eller ett visst uppdrag som myndighet. Det är ganska givet utifrån den ärendemängd man kanske hanterar och mycket svårt att påverka.
3. Ledningens mod – det som ligger högst upp och är helt avgörande. Ledningens mod att ta sig an frågor, öppna upp, ta vissa risker och gå vidare. Modet är helt avgörande för att gå vidare när man ska tala om vem som ska göra något och när man sätter igång något.

Vem ska jag tro på? Vi talar här om: vem har upphov till något? Vem har rätten till något? Här tror jag att man måste titta på någon slags förtroendemodell. Hur skapar vi förtroende? Hur bygger vi förtroende för det vi förmedlar ut? Hur kan vi berätta att detta är autentiskt? Vi kommer inte att kunna se skillnaden på verklighet och det som har producerats av AI.

Det är mycket viktigt att vi får fram modeller som tvingar AI-genererat material att deklareras, eller att tydliggöra vem man är. Jag tycker detta är viktigt. Jag kan erkänna att jag själv inte har talat om att vissa bilder i min presentation är AI-genererade, och det skulle jag ha gjort, men jag får skylla på tidsbrist. Jag brukar försöka göra det, men jag har inte gjort det här. Det blir en hemläxa för er att identifiera vilka som var genererade.

Men beskriva innehåll och förtroendemodell, det tror jag är en viktig del. Att berätta var saker kommer från, proveniens och liknande. Vi arbetar med en förtroendemodell för AI i offentlig förvaltning även hos oss. Den går ut på att vi ska trygga människor att veta att detta är en riktig tjänst, eller att denna AI-tjänst är utgiven från en offentlig förvaltning. Den är inte färdig, men den utgår från en självskattning och en eventuell registrering.

Biblioteken sätter människan i centrum, det var jag inne på. Detta är viktigt. Detta tror jag är en viktig del för er att utveckla och tala om vad ni står för i det digitala samhället. Biblioteken är inte bara böcker i papper eller dokument i papper eller fysiska verk, utan även digitala. Det tycker jag att biblioteken har visat att de känner till. Men jag tror också att det är viktigt att ni visar det till andra, att ni är en relevant aktör i det digitala samhället.

Jag vill ta upp något som hände igår. Jag vill gärna vara aktuell här och detta är ett exempel, ett liveexempel som jag inte kan säga så mycket om just nu, men jag tyckte det var mycket intressant. Detta är en typ av programmering som man nu gör av AI även från den svenska staten, genom att man har tillsatt en utredning och en utredning presenterar ett resultat. Detta resultat kommer att vara fakta som ligger i AI-modellerna framöver.

Men jag läste inledningen på denna utredning, och jag måste säga att det var en mycket ovanlig inledning på en statlig utredning. Jag har läst många statliga utredningar i mina dagar och bistått till vissa av dem utifrån min roll i offentlig förvaltning. Här är inledningen en direkt programmering för AI att faktiskt få en uppfattning om det svenska samhället och presentera sanningar eller perspektiv.

Detta är ett liveexempel jag vill presentera här och nu. Ni får ta med er detta och följa det och kontrollera det. Jag gjorde en lista igår. Jag frågade ChatGPT om en lista på 100 verk och fick naturligtvis en lista. Den listan kommer ni att få tillgång till sedan så kan ni titta på den och själva ställa en motsvarande fråga till ChatGPT om några dagar eller veckor, när man har gjort en ny version av ChatGPT. Vad säger den då? För då kommer den alldeles uppenbart säkert ha tagit intryck av vår utredning, och man kommer att ha en helt annan sanning att presentera om vad som är viktigast för Sverige när det gäller kultur.

Detta verk vill jag ändå lyfta – det kan vara ett lärande exempel som ni kan ta med er i vardagen framöver. När ni tänker på hur AI fungerar och hur viktigt det är att det finns de som kan arbeta med AI på ett vettigt och bra sätt och vägleda i detta.

Jag tänkte avsluta med ett citat från Arbetsförmedlingen om hur de definierade vad en bibliotekarie var. Det tycker jag var intressant. För här pratar man inte riktigt om samma saker som man traditionellt tänker sig om en bibliotekarie. Men detta är också något som man kan skriva ännu mer om – att tala om att det handlar om att vägleda när det gäller data och AI och andra saker. Det blir en roll för biblioteken faktiskt, att visa vägen i detta väglösa landskap. Jag tror att det kommer att vara en stor roll och utmaning för er att ta hand om.

Anne Stigell: Mats, det gav oss en del att tänka på inför detta.

Mats Snäll: Det hoppas jag. Jag hoppas också att ni tar med er det i era tankar inför eftersnacket sedan.

Anne Stigell: Nu ska vi bjuda in vår panel. Ni ska utifrån era respektive utgångspunkter och perspektiv reflektera över både det som Mats har sagt om nutid och framtid, och den kompetens som krävs för att möta behov och utmaningar på bibliotek när man möter invånarna, men också naturligtvis beställare av olika slag.

Förutom Mats, som vi nyss hörde, så är det:

Magdalena Ivarsson, biblioteksutvecklare och lärande i Sverige AB, med mångårig erfarenhet av att starta och driva skolbibliotek på grund- och gymnasienivå. Aktiv i flera av Svensk biblioteksförenings nätverk. Hon har skrivit debattartiklar i Biblioteksbladet, Magasin K och Vi lärare. 2019 tilldelades hon utmärkelsen Årets bibliotek och har också fått DIKs kvalitetsutmärkelse Skolbibliotek i världsklass i fem år.

Olof Sundin, professor i biblioteks- och informationsvetenskap vid Lunds universitet. Där undervisar han på ABM-programmet och leder för närvarande forskningsprojektet Research, som analyserar hur ungas informationssökning förändras i en AI-driven informationsstruktur, och projektet ”Vem är experten? Generativ AI som en plats för förhandling om expertis, bevis och tillit i ett digitaliserat samhälle”.

Hedija Kodzaga, sektionschef på medier och system på biblioteken i Malmö. Hennes erfarenhet kommer från forsknings- och folkbibliotek och hon har ett särskilt intresse för hur AI påverkar och kommer att påverka framtiden.

Anne Stigell: Utgångspunkten är: vad fick vi med oss? Det var mycket! Men hur ska biblioteken navigera i AI-landskapet och vilka verktyg behövs när det gäller ett kritiskt förhållningssätt?

Mats, jag tänkte börja med dig. Med tanke på DIGGs nya riktlinjer – vilket krav ser du som absolut nödvändigt för att biblioteken ska kunna garantera transparens och spårbarhet i AI-material? Detta är en stor fråga, men finns det något som du verkligen vill lyfta?

Mats Snäll: Det absolut viktigaste är att man skaffar sig kunskap och kompetens. Detta är i en tid av stor konkurrens om kunskap och kompetens. Men när vi sa att ta fram en policy – det var vår första och viktigaste punkt i våra riktlinjer. Att ta fram en policy är en aktivitet som tvingar fram en organisation att börja skaffa sig kompetensen, att sätta igång.

Jag vill fortfarande hävda att det är ett bra sätt. Jag kan inte komma på något annat bra sätt. Men AI-policyn måste vara grundad hos ledningen. Det måste komma från ledningen och genom det genomsyra organisationen. Då lägger de den prioritet som krävs för att ta fram en policy. Då måste man se till att man får kompetensstöd i framtagandet.

Detta kan börja i det lilla, och det kan vara en eller två personer på en myndighet som får i uppdrag att öka sin kompetens och ta fram eller stödja organisationen att ta fram policyn. Men det kan också vara så att man redan har kompetens, grupper eller delar i organisationen som man kan samla ihop och ge fokus, och sedan ser man hur den stödjer organisationens verksamhet och vilken prioritet man behöver lägga på just denna fråga.

Jag tror att många drar fel slutsatser och kommer att lägga alldeles för lite prioritet. De allra flesta brukar göra det när det gäller digitalisering och man förstår inte – man tar det mer för givet. Jag tycker att man ska ge det en hög prioritet, åtminstone tills man vet bättre. Det gör man när man kan säga att vi har kompetens att ta detta beslut. Det ska vara välgrundade beslut baserade på fakta, och att ta fram fakta kräver kompetens.

Anne Stigell: Olof, jag skulle vilja att du anknyter till detta. Det Mats säger om kompetens och att bygga kompetensen. Detta med AI-skräp och källkritik. Hur bygger man denna kompetens? Vad har folkbiblioteken för roll i samhället? Har vi egentligen koll på detta? Vad har vi? Vad behöver vi för kompetens när det gäller just det? Har du några tankar kring det?

Olof Sundin: Tack så mycket. Detta är stora frågor och det förändras hela tiden. Jag tror att det är viktigt att se att detta är långt ifrån enbart en teknisk fråga. Självklart har den tekniska dimensioner och man måste förstå grundläggande tekniska färdigheter. Men det är också en fråga om etik. Det handlar om ett kritiskt ansvarstagande och förståelse som måste gå hand i hand med den tekniska förståelsen.

Sedan håller jag med Mats om att kompetensutveckling är A och O. Jag skulle bara vilja säga att det handlar inte bara om en teknisk kompetensutveckling. Man måste också se: vad blir konsekvenserna av AI? Att förstå varför saker och ting blir som de blir. Om vi nu talar om transparens – varför får jag det svar jag får när jag promptar? Att kunna överblicka det. Vad kommer detta att få för konsekvenser för medieplanering, inköp och så vidare.

Sedan tror jag också att det är en utmärkt idé med en AI-policy. Jag tänker att inte minst för att utveckla kompetensen i den sammantagna kompetensen. Alla behöver inte kunna allting, men den sammantagna kompetensen är viktig. Sedan är det så att AI, vare sig vi vill eller inte, kommer att gå in i verksamheten på alla möjliga olika sätt. Jag tror inte man nödvändigtvis ska se att bara vi har en AI-policy så löser vi allting, utan det kommer att påverka medieplaneringen, det kommer att påverka hur vi hanterar MIK-undervisning med mera. Men jag tycker det är synnerligen bra att börja i den änden. Det tycker jag är ett utmärkt förslag.

Anne Stigell: Magdalena, utifrån det som både Mats och Olof har sagt nu. Du arbetar i skolmiljö på olika sätt. Vad har du för tankar kring AI-genererade medier med både källkritiken och den tekniska kompetensen som är kopplad till att man måste ha även en sakförståelse för vad det är man får?

Magdalena Ivarsson: Jag har många tankar om det. Skolbibliotekets utmaning med AI är att vårt största ämne, det vi arbetar mest med, är källkritik. Källkritik i form av läsförmåga. Läsförmåga är vårt i särklass bästa verktyg för att bedöma källor som vi hittar.

Med denna anstormning som jag har skrivit en del om kring AI-genererade barnböcker, finns det en rädsla hos mig att vi urlakar våra samlingar. Om vi köper in dessa material för mycket – de pratar om AI-incest, att AI som tränas på AI som tränas på AI – då ser jag redan i dessa AI-böcker att det är en utmaning för skolbiblioteken. Många skolbibliotek idag har inte till exempel en medieplan, och i medieplanen kan man reglera detta genom att skriva om AI och hur vi tänker kring inköp och hur vi tänker kring användning av AI i skolbiblioteken.

Anne Stigell: Men hur ser du på kopplingen till källkritik? Du pratar om AI-incest och hallucinationer och att AI tränas på AI. Hur ser du det? Finns det en förberedelse för skolan att ha denna koll? Utifrån ditt perspektiv som arbetar med att bygga skolbibliotek och grund- och gymnasiebibliotek?

Magdalena Ivarsson: Källkritiken – skolbiblioteken ska vara en stödfunktion till lärarna för arbete ute i klassrummet kring källkritik och kring AI. Det är svårt. Man arbetar som skolbibliotekarie ofta ensam i sin roll på skolan och har ansvar för dessa frågor. Nu händer det mycket snabbt. Vissa skolor är inte med på bollen och erbjuder till exempel kompetensutveckling i ämnet.

Det finns en medvetenhet om det. Många skolor är snabba med att införa AI-verktygen. Jag håller med Mats – det är bra. Vi behöver använda det för att kunna veta vad det är, vad vi ska använda det till, vad som är bra att använda till och vad som är dåligt. Vi har en stor press på oss också från föräldrar som vill att vi ska använda verktygen och vill att barnen ska kunna dem – helst igår.

Anne Stigell: Hedija, du har pratat om mediepolicy utifrån ett AI-perspektiv. Jag kan tänka mig att du också möter detta som Magdalena säger, att man vill lära sig hur det fungerar. Har du några tankar kring mediepolicy? Mats pratar om att man ska ta fram en AI-policy – går de hand i hand eller är det två skilda saker?

Hedija Kodzaga: Tack! Väldigt spännande att vara med här idag. Jag tänker precis som Olof sa: dessa frågor är stora och mycket komplexa och det är svårt att svara på dem här och nu, just för att denna utveckling går så snabbt framåt.

Ett steg i denna riktning är att vi har börjat inom branschen prata om detta mer och mer, att vi problematiserar och att vi är skeptiskt positiva till detta. Vi kan inte vänta på att någon ska ta beslut som kommer att påverka oss, utan vi behöver vara med. Vi behöver testa, vi behöver utforska. Vi behöver öva oss på att definiera riktlinjerna, men vi behöver också ha en beredskap i verksamheterna att ändra dem, uppdatera dem och vara med.

Detta är en stor förändring som kommer att påverka vår profession otroligt mycket, vårt arbetssätt. Bibliotek har alltid varit med och är duktiga, och vi är experter på att lära oss och guida våra användare, och det ska vi ta tillvara även i denna fråga. Men det behöver vi göra tillsammans, inte på kommunnivå. Det tycker jag inte är rätt väg att gå, utan vi behöver organisera oss på något sätt och tillsammans definiera och prata. Vad är det vi behöver definiera? Hur ska den formuleras? Är det mediepolicy som ska innehålla riktlinjerna? Eller är det en AI-policy som ska tas fram? Av vem? På vilken nivå? Det är snarare fler frågor som väcks än att jag ger något svar.

Anne Stigell: Jag tänkte på att det ena inte utesluter det andra, utan att en mediepolicy måste gå hand i hand med en AI-policy. Det är både och. Mats sa att vi ska göra det tillsammans. Du nämner att man ska vara tillsammans. Vilka ser du som dina självklara samverkanspartners i att skapa en möjlig AI-policy eller att diskutera dessa frågor? Magdalena, jag kommer att ställa samma fråga till dig också.

Hedija Kodzaga: Vi behöver ha med oss lärosäten och vi behöver alla bibliotek oavsett vilken bibliotekstyp, tillsammans med myndigheter. I detta fall var Mats inne på att det redan finns ett arbete som pågår, för vi behöver vara med tillsammans på grund av att vi är bra på olika saker. Tillsammans bygger vi en helhet som kan hjälpa oss att gå vidare i denna fråga.

Jag har inte riktigt något färdigt svar. Om vi börjar prata mer och mer om detta, om vi problematiserar och är tillräckligt modiga att testa, då tycker jag att vi kan börja bygga något tillsammans.

Anne Stigell: Magdalena, vad tänker du om det?

Magdalena Ivarsson: Jag arbetar inom friskola, så det är vårt eget företag som tar tag i det. Men arbetar man kommunalt som skolbibliotek, då behöver man arbeta med kommunen. I vissa fall har huvudbiblioteket eller stadsbiblioteket något man kan anknyta till. Jag förutsätter att de kommer att ha det.

Sedan har vi våra nätverk inom biblioteksföreningen. Jag vet att vi har pratat om detta i vårt nätverk för verksamhetsutvecklande metoder på bibliotek. Vi är många som arbetar med detta samtidigt. Jag tycker vi ska ta styrka av det och ta hjälp av varandra.

Anne Stigell: Hur skulle man kunna organisera det utifrån ditt perspektiv? Skolbibliotekarie arbetar ensam på sina skolor och man är ensam i sin profession. Vi kan arbeta gentemot lärarna, men vi är en stödfunktion.

Magdalena Ivarsson: Först och främst tycker jag att man ska se sin egen skola, se sina egna lärare, de man har inom armlängds avstånd. Börja fråga runt där. Arbetar man i skolbibliotek behöver man arbeta först och främst efter skolans styrdokument och sedan är vissa skolbibliotek kopplade till sina kommunbibliotek, och då får man arbeta efter deras styrdokument också. Det kommer att skilja mycket från skola till skola vilken AI-policy man är närmast. Men jag tycker definitivt att skolbiblioteken ska vara med och påverka. Vi ska inte sitta tillbaka och vänta på att policyerna kommer till oss, utan vi får vara aktiva och vara med och skapa dessa policyer om vi kan.

Anne Stigell: Olof! Både Hedija och Magdalena har pratat om samverkan brett och nämnt lärosätena. Vad ser du? Vad bidrar ni med till detta? När du sitter på ett lärosäte och har stor kunskap om MIK-området och källkritiken, och den typen av frågor som är väsentliga i detta.

Olof Sundin: Vi har en kontinuerlig utbildning, naturligtvis, men om vi nu tar dessa frågor kring utveckling och hur vi ska prata om AI-policy och mediapolicy med inriktning mot AI, så tror jag att det är viktigt att man inom sektorn, och kanske till och med tillsammans med utbildningsområden, samverkar. Alla bibliotek ingår oftast i en kommunal organisation eller friskoleorganisation. Därför är utvecklingsarbete viktigt som Magdalena säger. Men jag tror inte vi kan stanna där. Jag tror det är viktigt att sektorn själv utvecklar ett initiativ som går på tvären mot huvudmannaorganisationen, så att man kan komma till den kommunala eller friskolesektorn och lyfta och driva de frågor som sedan finns på den mer sektorsnivån eller professionsnivån.

Jag kan tänka mig att när det gäller vem som ska leda det – man skulle kunna säga KB eftersom KB är myndigheten som ansvarar för biblioteksutveckling i landet. Man skulle kunna säga att detta sammanhang skulle kunna vara en början.

Men jag tror att man borde mycket snart skapa någon slags panel där man bjuder in deltagare från olika former av biblioteksfunktioner tillsammans med kanske några från lärosäten som kan hålla uppe tempot. Inte vänta på att någon ska börja. Jag tror inte det är vi lärosäten som ska ta initiativet. Jag tror att det ska tas från kanske regionsammanhang. Ta ett initiativ till detta. En panel som kan ha regelbundna, inte mycket stora men regelbundna möten med kanske målsättning att ta fram en AI-policy.

Mats Snäll: Jag tycker det låter som en utmärkt idé. Att man väntar och inte gör någonting, det tror jag är absolut fel beslut eller strategi att ta. Någon kommer inte göra det om man inte redan har gjort det, och då kommer det komma alldeles för sent. Detta skulle gjorts igår. Jag tycker det är en mycket bra idé.

Och vem som tar initiativet kommer säkert få en klapp på axeln. Men det behöver inte vara att just en utpekad ledare gör det. Det skulle vara utmärkt om KB gjorde det eftersom de har fantastiskt bra kompetens på området. De skulle kunna vara en vägledare i detta, definitivt inom biblioteksvärlden där man redan samlat en stor kunskapsbank eller kompetensresurs.

Men vem som helst kan ta initiativet och jag tror säkert att de skulle hoppa på och hjälpa till i detta, för de stöttar mer än gärna i andra sammanhang.

Anne Stigell: Jag är inte säker på att KB ser det som sitt uppdrag att ta fram en AI-policy för alla bibliotek i Sverige. Men jag håller med dig om att det skulle vara bra om det kom något därifrån också. Det är det som är den stora faran – att det inte är någon som har uppdraget och därför kommer det att ramla mellan stolarna. Men ibland får vi förlita oss på vår kollektiva vilja att göra det bästa möjliga av situationen och kämpa tillsammans.

Anne Stigell: Hedija, när du hör detta, finns det något du skulle vilja ha med i en AI-policy som du ser som viktigt? Utifrån ditt biblioteksperspektiv. Du är på ett stort bibliotek i Malmö. Har du någon sådan tanke om vad en AI-policy borde innehålla?

Hedija Kodzaga: Idag har till exempel biblioteken i Malmö i sin mediepolicy definierat hur vi förhåller oss till översättningar, och att vi, eftersom vi bedömer att de är av dålig kvalitet, inte köper in dem. Men det är vad vi vet här och nu. Eftersom utvecklingen går så snabbt framåt kommer –

Anne Stigell: Ursäkta, jag vill bara förtydliga. Menar du automatgenererade översättningar?

Hedija Kodzaga: Exakt, precis. Snart kommer vi att hamna i den situation där vi inte kommer att göra de bedömningarna för att de kommer att bli så bra. AI utvecklas hela tiden och lär sig hela tiden.

En sak som jag tänker mycket på är detta kopplat till faktaböcker – där behöver vi vara försiktiga för att AI är tillmötesgående. Den vill svara rätt, och där kommer vår förmåga att kompetensutveckla oss, att veta mer och kritiskt granska de medier vi köper in. Frågeställningen är hur du ställer frågan, så får du svar. Precis som alla mina panelsamtalsdeltagare idag har sagt: vi behöver kritiskt granska det som vi tar del av.

Det är en sådan sak som jag tänker på. Men risken finns att vi snart kommer att hamna i en situation där vi inte kommer att skilja på dessa medier på samma sätt som vi gör idag. Vad gör vi då?

Därför är det viktigt att vi börjar organisera oss på något sätt i de strukturer vi har. Lära av varandra och börja prata om detta. Tillsammans tror jag att vi kommer att landa i något som blir bra för alla, eller ge oss stöd så att vi vågar gå vidare i dessa frågor.

Anne Stigell: Magdalena, har du någon tanke om vad som borde vara med i en AI-policy?

Magdalena Ivarsson: Det viktigare är det som Hedija sa, att det viktiga är att vi börjar med det. Ju tidigare vi kan börja revidera våra planer när vi märker vad som fungerar och inte, vad som leder oss i rätt riktning, desto bättre. Det är nästan det som är det viktiga, att vi skapar den och att vi börjar arbeta efter den, så att vi sedan kan revidera och ändra och anpassa oss.

Det som Mats pratade om – modet att våga. Vi vill inte heller stänga – jag har farhågor och förväntningar. Mest farhågor, och farhågor får inte stänga dörren för ett bra verktyg. Därför är det viktigt – ju tidigare vi börjar använda det, desto snabbare kan jag slänga vissa farhågor åt sidan och vissa förskräckelser också åt sidan.

Anne Stigell: Olof, vi har haft exempel på både offentliga och privata personer med bristfällig koll på källkritik och att man inte riktigt har – man har tagit det som sagts för givet att detta är en sanning. ”Jag har frågat ChatGPT, jag får ett svar och det är kanon. Det möter precis det jag vill få.”

Vad tänker du kring bibliotekets roll? Biblioteken har ett MIK-uppdrag kring detta. Hur ska biblioteken förbereda sig? Hur ska de se till att de har de verktyg de behöver för denna typ av frågor?

Olof Sundin: Det är uppenbart att vissa politiker borde gå till Magdalena och lära sig. Det finns säkert många exempel. Vi kanske har exempel själva också.

Men jag anknyter till frågan om AI-policy när jag besvarar denna. Jag tycker naturligtvis att det borde genomsyra allt, bortsett från det som har med administration att göra, katalogisering och sådant som är superviktigt också. Det centrala är källkritik och MIK och att kanske snarare beväpna våra låntagare eller våra medborgare än att beväpna oss själva. Att bidra till denna kritiska förståelse så att man inte – som Mats sa – att man tar kontrollen över situationen. För alla dessa tekniktjänster byggs mer och mer på ett sätt som gör att vi människor inte har kontroll. Google skulle säkert säga: vi ger dig svaret innan du hinner söka.

Det är just då som det är problem med kontrollen. Att kunna ta tillbaka kontrollen tycker jag var utmärkt formulerat.

Bara en sak om samlingarna. Jag tror att – nu säger jag detta som icke-bibliotekarie på många år, så ni får ursäkta mig – men jag tror att det vore värdefullt. Jag förstår att när man utlokaliserar inköp kan man eventuellt få sämre kontroll över de samlingar man har och vad som händer, och med den överflöd av publikationer som bara strömmar in. Att få bättre kontroll över samlingarna och lägga mer tid på samlingsbyggande, det tror jag kommer bli viktigt för att biblioteken ska kunna fortsätta ha den tillit som människor tilldelar biblioteken i samhället. Då får man inte göra bort sig med alltför mycket galenskap – med AI-genererade svampböcker och så vidare.

Anne Stigell: Hedija, har du några tankar kring det? Ni har redan gjort ett val när det gäller automatgenererade översättningar. När Olof säger så här, vad tänker du?

Hedija Kodzaga: Jag håller med. Denna fråga är otroligt stor och komplex och ställer krav på oss och att vi behöver avsätta tid för att göra denna granskning som vi behöver göra när vi gör inköp. Men samtidigt, nu pratar jag utifrån folkbiblioteksperspektiv – vi köper mycket av det som Malmöborna vill ha eller önskar sig, och där tycker jag som Magdalena var inne på: det ena exkluderar inte det andra utan vi ska erbjuda bredden och djupet i våra samlingar.

Sedan kommer vi in i bilden som bibliotekarier: hur ska vi marknadsföra? Hur ska vi arbeta med läsfrämjande arbete? Hur ska vi arbeta med källkritik och MIK? Vi behöver ge möjligheterna till våra användare också att ta ställning till det och upplysa dem. Den här boken är en AI-genererad bok. Vad är vad? Vi har alla förutsättningar att lyckas med detta.

Men vi får inte skrämmas av komplexitet i dessa frågor, utan om vi gör det tillsammans och är skeptiskt positiva och börjar arbeta med detta och prata om detta och lyfta utmaningar och möjligheter också, så tror jag att vi kan hitta en väg framåt som kan bli bra.

Anne Stigell: Är det någon av er som skulle vilja reflektera över det Mats tog upp kring riktlinjer om upphovsrätten? Jag vet att i en artikel på Magasin K stod det att om boken är bra så spelar det mindre roll om den är AI-genererad eller inte. Det är verkshöjden på själva boken som är det viktiga. Men om vi tittar på detta som Mats nämner om att KLYS har tagit fram riktlinjer kring upphovsrätten, att man ska – mycket av det när man skriver prompter eller om man tar fram att skriva en bok på detta, då samlar det verktyget man använder ihop information. Det är inte AI som skriver en bok, utan det är ett verktyg som samlar ihop information och paketerar den så blir det en ny bok, oavsett om det är en text eller bild. Är det någon av er som skulle vilja reflektera kring det?

Mats Snäll: Jag kan, om jag får börja. Det finns många dimensioner av detta. Särskilt när man använder generativ AI handlar det både om det man lägger in och det som arbetas med – hur man har tränat en AI och det som kommer ut. Det är tre olika dimensioner som alla är stora och som påverkar upphovsrätt och rättigheter som tillhör människor. Det är därför komplicerat och svårt. Jag tycker verkligen att de gör ett utmärkt arbete nu, och de ska självklart stå för människornas rättigheter till sina verk.

Sedan har det – det jag tycker är en helt annan dimension – det som skapas kan vara mycket bra kvalitativt. Det kan vara omtyckt, det kan vara bra och vi kommer att se allt mer som uppskattas, som verkligen tilltalar oss människor mycket och vi ska inte bortse från det, utan det är en utveckling i samhället det också. Att vi på artificiell väg kan ta fram sådant som inte har funnits förut. Även bättre mediciner är ett resultat av att AI hjälper till, även om de inte genererar som generativ AI och kan hallucinera fram saker.

Men vi kommer att se en sådan otrolig utveckling så det är svårt att säga att vi ska begränsa oss till detta och hålla oss till vad vi människor är vana vid. Det kan vi inte göra, utan vi måste följa utvecklingen. Med det sagt tänker jag till. Jag går inte in på vad jag tycker och tänker kring upphovsrätten i sig och sådana saker, men det är ändå många dimensioner även här som gör det mycket svårbedömt och svårt att prata om när man inte kan bedöma det bättre idag.

Anne Stigell: Hedija, Magdalena, någon av er?

Magdalena Ivarsson: Jag tänkte på det du sa: kan AI verkligen ta fram sådant som inte redan har funnits? Det är den biten – att AI samlar ihop, använder kunskap som redan existerar.

Mats Snäll: Bara för att kontra hur svårt det är: hur fungerar vi människor idag? Hur ofta kommer vi på något briljant som aldrig överhuvudtaget har funnits i hela världen? Någon gång händer det att det kommer en innovation, men det har ofta utgått från någon slags iterativ utveckling till att det har blivit just detta. Det är inte helt enkelt. Det är inte helt olikt människan och när människan utvecklar. Jag har visat upp några bilder här som jag kan svära på att det inte finns någonstans i hela världen. Men på samma sätt som att ingen ser exakt likadant ut eller fungerar precis som jag gör som människa.

Anne Stigell: Magdalena, du tänker att detta blir utifrån ett upphovsrättsperspektiv –

Magdalena Ivarsson: Ju mer arbete du lägger ner, desto bättre resultat får du ut av AI. Då är frågan: var går gränsen för när du egentligen bara har skrivit boken på egen hand, fast du har bearbetat allting genom AI? För du behöver ändå lägga så mycket handpåläggning på det i dagens läge. Sedan får vi se vart AI tar vägen om fem år och tio år. Du kanske kan göra allting helt själv, men i dagsläget kan du inte riktigt skriva en bok med AI utan att lägga så mycket egen insats vid det, om du ska ha det kvalitativt.

Jag tycker det är intressant och en stor fråga för mig på biblioteken är just detta med variation. Det är denna AI-incest som har synts i de här AI-genererade böckerna. Det märks verkligen. Det är viktigt. Som Olof pratade om att samlingarna är så otroligt viktiga för biblioteken. De har fått falla bort, särskilt för skolbiblioteken.

Om man tänker på början av 90-talet när jag gick i skolan, hade 80 % av skolorna skolbibliotek och en bibliotekarie på halvtid. För det var det som räknades som skolbibliotek då. Samma siffra 2022 var 16 %. Då är det inte underligt att läsningarna har fallit överallt. Det är inte rocket science. Men det betyder också att när skolbibliotekarierna och skolbiblioteken försvann började skolbiblioteken fyllas med alla möjliga böcker som donerats eller slängts på skolbiblioteken för att fylla upp. Det har genererat till att många skolbibliotek har dåliga samlingar, och det har inte bidragit till läsningen.

Detta med litteraturen som skapas med AI, hur vi ska få in dem i våra samlingar – kommer de att bidra med kvalitet till exempel? Det tror jag inte i dagsläget och det kommer att ta tid. Det kommer att ta lång tid innan det gör det. För även om AI-verktygen blir bättre så är det AI-verktygen som gemene man har tillgång till, till exempel gratis, som inte kommer att bli bättre i samma hastighet som verktyg som används mer professionellt.

Anne Stigell: Vi började med en DIGG-genomgång eller genomgång av riktlinjerna och presentationen av dem, och vi avslutar med att sammanfatta samlingarna. Det är det som är det viktiga, hur man bygger dem. Det kommer att bli en fråga för översyn och ett ständigt pågående arbete.

Det jag tar med mig från idag, förutom att jag tackar er otroligt mycket för det intressanta samtalet, är att vi ska ha mod att våga. Vi ska förhålla oss källkritiskt till materialet och sedan ska vi samarbeta kring det fortsatta arbetet med policyer, oavsett om det gäller AI-policyer men också att diskutera AI-policyer utifrån ett mediepolicyperspektiv.

Stort tack till er: Olof Sundin, Magdalena Ivarsson, Hedija Kodzaga och Mats Snäll.