AI i bibliotek: hur vi söker, värderar och hanterar information

Tack för inbjudan, och tack för att ni kommer hit för att lyssna på det här extremt viktiga ämnet. Jag heter som sagt Måns Jonasson och jag jobbar på Internetstiftelsen, som är administrationsorganisationen för den svenska toppdomänen .se. Många av er känner säkert till oss via våra många informationsinitiativ, och ett av de största och mest synliga är framför allt Svenskarna och internet – en rapport som har kommit ut i över 25 år och som beskriver hur svenskarna har tagit till sig internet.

Jag ska försöka dela en presentation, och det är ju alltid lite läskigt att dela saker på Zoom. Men vi hoppas att det går vägen.

När jag skulle förbereda mig inför den här presentationen funderade jag lite kring att en del av er säkert har jobbat med information så länge att ni minns när webben kom, när sökmotorerna kom och när vi för första gången började hitta information på nätet. Det var ett enormt informationsskifte som ledde till en stor förändring i hur vi kan inhämta information, och det har inte varit utan problem. Det vet ni som har jobbat i biblioteken och försökt hjälpa människor att hitta rätt på nätet i snart 30 år.

Och det som jag tycker är tydligt nu med AI, det är att vi står inför ett precis lika stort eller kanske ännu större informationsskifte. Därför valde jag att kalla den här presentationen AI i bibliotek: Hur vi söker, värderar och hanterar information  – för att allting flyttar på sig igen.

Det här är siffror från Svenskarna och internet förra året. Det är lite speciellt för mig att sitta och prata om de här siffrorna, för jag har precis tittat på siffrorna för nästa års presentation, som kommer i september. Jag får inte avslöja några siffror från den kommande rapporten, för de är hemliga inför rapportsläppet. Men jag kan avslöja, utan att kanske chocka någon särskilt mycket, att de frågor vi ställer kring AI i den här rapporten – allting har ökat dramatiskt. Så när ni ser de här siffrorna ska ni tänka att det här är för ett år sedan, och att det har ökat ännu mer.

Förra året, när vi frågade alla svenskar över 8 år, var det 21 procent som tyckte att AI-verktyg kan ersätta sökmotorer helt och hållet. Det betyder att man kanske väljer att gå till ChatGPT i stället för till Google. Idag kan det betyda väldigt många andra saker, för den här undersökningen – förra årets undersökning – gjordes innan Google hade börjat slänga in AI-sammanfattningar i alla sökresultat.

Jag kommer prata mer om det om en liten stund, men ni ser också en väldigt stor skillnad om vi tittar på de ljusblå staplarna till höger: bland de som faktiskt använder AI är det hälften som tycker – eller tyckte redan då – att AI ersätter sökmotorer. Och lite fler som tycker att det bästa med AI är att man kan fråga saker som sökmotorerna inte är så bra på att svara på.

Att söka på internet överlag har ändrat sig ganska mycket. Jag blev själv aktiv på webben ungefär 94, när den slog igenom på allvar och de första webbläsarna kom till Windows. Och har man varit med sedan webbens begynnelse minns man AltaVista, som var den första stora sökmotorn med ambitionen att indexera hela webben.

Att indexera hela webben 95 var ett väldigt mycket mindre uppdrag än vad det är idag. Uppskattningar säger att det fanns kanske runt en miljon webbsidor 95, och idag finns det miljarder. Det är en enorm ökning av information som våra sökmotorer ska kunna hantera. Den här explosionsartade ökningen ledde också till att AltaVista ganska snart blev oanvändbar. Det som var svårt för AltaVista var att kunna ranka sidor mot varandra, och det var det som Google löste när det lanserades bara några år senare.

Google hittade på ett sätt att ranka och värdera sidornas värde gentemot varandra – en algoritm som de kallade för PageRank. Och där någonstans började man prata om relevans i en sökmotor: att alla sökresultat inte är lika mycket värda, utan att en del sökresultat har högre relevans och ett högre värde för användaren än andra.

Så här såg Google ut när det lanserades. Det jag tänkte visa med den här bilden är att det egentligen inte var så stor skillnad – om vi backar till AltaVista och Google såg beteendet och användarmönstret väldigt likt ut. Det gick att använda dem på nästan exakt samma sätt: man skrev in ett eller flera sökord och fick sökresultat, sidor som man kunde paginera sig fram genom för att hitta det resultat man var ute efter. Google var bra på det här, och det gjorde att man nästan alltid tyckte att man fick rätt resultat på den första, andra eller tredje sökträffen på den här tiden.

Jag kan säga att den tiden känns väldigt länge sedan idag. Numera upptäcker jag att jag väldigt ofta måste gå till sidan 2, 3, 4, 5 på Google för att hitta det jag faktiskt tycker är ett bra sökresultat. Det är sponsrade länkar, det är sökmotoroptimerat trams och det är massa saker som gör det svårt att hitta information – precis som det en gång blev på AltaVista.

Så här ser Google ut idag, eller kanske kan man säga 2025, förra året. Det är inte så stor skillnad om vi backar igen: en lista på resultat på webben som enligt Google är mest relevant för det jag söker efter. Visst, de har lagt in funktionalitet för att ge vissa utdrag och viss information. Visst, de har gjort det de kallar för snippets, så att man kan hitta resultat direkt på sidan. Visst, de har lagt in nyheter och bildsökning och massa saker. Men huvudfunktionaliteten i Google är egentligen oförändrad från 1998 – nästan trettio år med sökmotorer som ser ut och fungerar på samma sätt.

Men 2022 hände det något. När ChatGPT släpptes publikt var det för första gången många som använde en AI-språkmodell, en så kallad LLM – Large Language Model – för att söka. GPT, som är den typ av träning man gör på AI- och språkmodeller, var inte alls nytt 2022. Men den magiska formel som OpenAI lyckades skapa med ChatGPT gjorde att många användare som testade verktyget för första gången kände att de kunde använda en språkmodell – en AI – för att konversera och få svar.

Det som många upptäckte 2022 var att det gick att låtsas att de här språkmodellerna var en sökmotor. Resultaten var verkligen inte bra, och då började vi prata om hallucinationer och risken för att AI svarar helt galet och svarar fel – vilket den verkligen gjorde. Det som hände på den tiden var att språkmodellerna var tränade på en viss mängd material. Massor av material – allt man kunde hitta på internet, men ändå en viss mängd material. Och sen stängde man av träningen. När man sen började prata med ChatGPT 2022 fick man bara prata med den kunskap som redan fanns lagrad i språkmodellen.

Sen finns det massa problem med språkmodellen som gör att den inte alltid svarar rätt ändå. Men den kunde framför allt inte gå ut på nätet och leta efter mer information. ChatGPT och OpenAI:s tanke var aldrig att det här skulle vara en sökmotor. ChatGPT och GPT – Transformers – var tänkt för att generera text utifrån en prompt.

Jag tror att det kanske var ganska mycket en överraskning även för OpenAI att folk ville använda de här chattfunktionerna för att söka och för att lära sig saker, för det var inte alls det som var tanken med språkmodellerna från början. Och när folk ändå började göra det och fick dåliga resultat blev det en ganska skarp reaktion från omvärlden: de här språkmodellerna och AI-tjänsterna levererar inte bra sökresultat. ”No shit”, säger OpenAI – det var aldrig meningen. Det är klart att de levererar dåliga resultat. Men man var tvungen att ganska snabbt utveckla tjänsterna så att de skapar bättre sökresultat och faktiskt på riktigt kan ersätta sökmotorer.

Och nu har vi då AI-sökning. Jag skulle säga att 2026 är året för AI-sökning, och det är ju bättre på alla sätt och vis. Eller är det det?

Vi ska titta på några exempel. Jag gjorde några liknande sökningar här. ”Vem är näst i tronföljden i Thailand?” tänkte jag att jag skulle fråga. Här har vi ett typiskt ChatGPT-svar: ”Det finns ingen formellt utsedd kronprins eller kronprinsessa.” Det tycker jag är ett bra första svar. ”Kungen har inte offentligt utsett någon arvtagare.” Och ser ni, direkt efter finns det en källhänvisning också. Här har ChatGPT faktiskt sökt och kondenserat information från Wikipedia, och sen är den också bra på att föreslå: den person som oftast betraktas som tronföljare är den här prinsen. Även där finns en källhänvisning, och ni ser att hela sammanfattningen kommer från Wikipedia.

Det här är en jättestor skillnad mot hur ChatGPT agerade för länge sedan, när ChatGPT kom för bara 3, 4 år sedan så gjorde den inte den här sammanfattade sökningen. Jo, den hade skannat hela Wikipedia och den hade kondenserat hela Wikipedia i sin språkmodell. Men den kunde inte referera till informationen på det sättet. Här är en gigantisk skillnad i hur AI-modeller idag hanterar information.

Och det här tycker jag är viktigt att komma ihåg: det går inte längre att prata om att AI-modeller bara är en sorts gissningsverktyg, eller att de inte riktigt kan förstå sammanhang, eller att de bara är sannolikhetsmodeller. För dagens AI-tjänster är mycket mer än så. De går faktiskt ut och gör i många fall Google-sökningarna åt oss.

Det upptäckte Google också – att så här kan vi inte ha det. Nu börjar vi tappa jättemånga användare till OpenAI och till Anthropic och andra tjänster. Här ser ni hur ett dagens Google-sökresultat ser ut. Man kan välja att inte få en AI-sammanfattning när man googlar. Det gjorde jag, så jag visar hur en gammaldags, gammal hederlig Google-sökning efter ”vem är näst i tronföljden i Thailand” ser ut. Den första relevanta länken tycker Google är någonting som heter ungefär ”thailandidag” [exakt källnamn oklart i inspelningen]. Jag vet ingenting om den källan. Det är möjligt att den är superrelevant och bra. Här står fetstilat samma prins, Rasmijoti, som stod i ChatGPT:s resultat, och sen har vi Wikipedia och [oklart i inspelningen] om Thailand.

Men om man jämför sökresultatet från ChatGPT… Om jag tänker mig att jag är en användare som egentligen inte bryr mig om källhänvisning och källkritik – jag vill bara ha svar på min fråga. Och det är 99 procent av alla sökare där ute. De vill bara veta svaret. De bryr sig egentligen inte så mycket om vem som ligger bakom svaret, eller om det kan vara rätt eller fel. Tyvärr. Men så ser det ut om man pratar med folk: de vill veta svaret. Då tycker jag att det som kommer från ChatGPT idag är ett bättre svar än vad Google kan ge. För Google-resultatet kräver fortfarande av användaren att man börjar klicka sig in på länkar, letar efter resultatet själv, gör en källkritisk analys och förstår att ”Thailand idag – vad är det för källa, vem ligger bakom den?”

Google har förstått det här också och därför börjat göra de här AI-sammanfattningarna. Det som är intressant med dem är två saker. För det första är det inte så att vi har något val – Google tvingar på oss de här AI-sammanfattningarna, vare sig vi vill eller inte. De har bara slagit på AI-sammanfattningar, lite likt ChatGPT. Till en början var de här AI-sammanfattningarna vansinnigt dåliga och hade ofta fel. Jag har sett hårresande exempel på rent förtal i AI-sammanfattningar, där man söker på en person och i sammanfattningen får veta att den är dömd för mord till exempel – någonting som absolut inte stämmer. Det finns flera kända fall på nätet där folk har stämt Google för att de helt enkelt blivit förtalade av sökmotorn på det här sättet.

Men precis som ChatGPT har Googles Gemini blivit bättre och bättre. Så här ser AI-sammanfattningen ut idag. Jag gjorde ett par sökningar för att visa på exakt samma sak – för att visa vad vi ska ha koll på här. Här är en AI-översikt som jag fick på precis den sökningen: ”Den som är näst till tronföljden är prins Rasmijoti.” Det här skulle jag säga är ett dåligt resultat. Det stämmer ju inte riktigt – kungen har ju inte uttalat sig. Det såg vi i den förra sökningen: kungen har inte direkt utnämnt någon efterföljare. Ja, de flesta bedömare antar att det ska bli den här prinsen. Men här svarar Googles AI-sammanfattning som att det är en total sanning, och den hänvisar till Wikipedia – samma källhänvisning som ChatGPT gör. Två olika värderingar av innehållet.

Så jag ville göra ytterligare en sökning på Google. Jag gjorde bara en exakt likadan sökning direkt efter och fick plötsligt ett annat resultat i AI-sammanfattningen. Här är ett mycket bättre resultat, tycker jag: ”Thailands tronföljd oklar”, och sen nämner den ändå att den närmaste tronföljaren är Rasmijoti. Så här är vi kvar i en sorts bedömning som AI:n – Googles AI-sammanfattning – gör varje gång vi gör en sökning. Den använder Wikipedia. Det gjorde den i båda de här sökresultaten – antagligen exakt samma Wikipediasida, exakt samma information – men gör två olika bedömningar av innehållet. Precis som en människa som läser, eller kanske två olika människor som läser, kan göra olika bedömningar.

Det här ställer saker i ett nytt ljus för mig. De här AI-bottarna kommer att göra mer eller mindre realtidsbedömningar av information de hittar på nätet, och de kommer att göra olika bedömningar från fall till fall – precis som olika människor kanske gör olika bedömningar från fall till fall. Och vem som kontrollerar hur de här bedömningarna ser ut, vad som ska viktas högre och lägre – det får vi aldrig veta. De här algoritmerna är svarta lådor för oss.

Om jag går till biblioteket och ber en bibliotekarie hjälpa mig att söka information på Wikipedia, då kan jag utmana bibliotekarien och ställa följdfrågor: ”Varför tänkte du så här? Vad menade du med det? Det står ju så här också.” Det är jättesvårt att göra med en AI-sammanfattning. Jag får egentligen bara acceptera resultatet rakt upp och ner som det kommer – om jag inte är så duktig att jag väljer att göra flera sökningar efter varandra och själv börjar värdera: ”Okej, nu har jag gjort fem sökningar och fått olika resultat – det är kanske bäst att jag läser på själv.”

Det här tror jag kommer bli en jätteutmaning. För den här typen av sökresultat… vi har nu ägnat 30 år åt att utbilda människor att de själva måste värdera länkarna och bedöma sanningshalten i resultaten på sidan. Medan chattbottarna bara levererar ett svar, och det svaret är så lätt för oss människor att bara läsa och ta till oss. Det är mycket, mycket svårare, tror jag, för människor att göra en bedömning av rimligheten i svaren när de ser ut som ett välformulerat och faktaspäckat svar: ”Den som är näst i tronföljden är prins Rasmijoti.” Varför skulle jag, som inte kan någonting om Thailands tronföljd, ifrågasätta det?

När AI börjar äta upp alla sökresultat, när Googles gamla listor med söklänkar försvinner – vad händer då? Det som Google har presenterat i år är att de tänker ta bort den gamla listan med sökresultat och ersätta hela Google-gränssnittet med bara den här chattsökningen. Man kommer säkert kunna ta fram den gamla listan med Google-resultat, men det kommer kräva en manuell hantering av oss användare. Vi kommer vara tvungna att trycka på en liten flik som säger ”jag vill se listan på sökresultat”. Idag är det lite tvärtom: man kan gå in i ett AI-läge, men standardläget är fortfarande den gamla Google-sökningen med söklänkar i en lista. Det kommer att förändras. Sökresultaten i framtiden kommer att vara AI-sammanfattningen, och så kommer det finnas ett power user- och avancerat läge där man kan se källorna och söka vidare.

Och vad händer då när AI äter upp alla sökresultaten? Här tog jag ett exempel som jag hämtat från vår egen verksamhet. Om jag söker på någonting som jag vet finns i vår rapport Svenskarna och internet – ”hur många svenskar använder Discord” – då får jag idag i Google som första resultat en länk till Svenskarna och internet. Det som ofta händer, och som vi kan se på vår sida, är att användare söker på information, klickar på länken, kommer till vår webb och kan läsa informationen.

Internetstiftelsen är en non-profit-organisation. Det vill säga att vi tjänar inga pengar på att någon kommer till svenskarnaochinternet.se och läser våra länkar. Men vi är ändå väldigt noggranna – som jag vet att alla andra non-profit- och kunskapsorganisationer också är – med att spåra och se hur många som kommer till våra sajter, vilka sidor de läser och vilken information de är intresserade av. Den här informationen är nämligen en nyckelinformation för oss, för att kunna veta: gör vi rätt när vi producerar material? Träffar en artikel en människa? Är det någon som vill läsa den här artikeln vi skriver? Är det någon som ser den här videon?

Det som händer nu är att AI:n läser informationen och sammanfattar den åt användaren, och användaren – i väldigt få fall, vilket vi redan nu kan se i statistiken – trycker på den lilla knappen där det nu står ”Wikipedia”. Där hade det kunnat stå ”Svenskarna och internet” till exempel. Jättefå användare går vidare till källan när resultatet redan finns i AI-sammanfattningen.

Så här ser det ut med AI: ”Hur många svenskar använder Discord?” Här får man svaret, och ni ser att svaret är från Svenskarna och internet. Men det vi alltså redan nu kan se är att vi börjar se ett fall i besökarantalet på våra webbar, därför att svaren presenteras direkt i sökmotorsammanfattningen.

Man kan tänka två saker. Det är jättebra för användaren – den slipper gå till vår sida och leta själv i en lång artikel efter resultatet, för resultatet syns ju där. Det är 15 procent. Den andra saken är att man på sikt skulle kunna tänka sig att besökarantalet på Svenskarna och internet och på miljontals webbsidor där ute sjunker till noll. Ingen besöker längre webbsidor. Och då är frågan: ska vi fortsätta producera artiklar, resultat och siffror som vi inte vet om någon läser?

Vi får ingen statistik från de här AI-bottarna. Vi kan inte veta hur många gånger människor har tagit del av vår information i ChatGPT eller i Googles AI-sammanfattning. Det vet vi inte – den statistiken delar de inte med sig av. Det här håller på att bli ett jättestort problem. Det är klart att det är ett mycket större problem för verksamheter som säljer annonser på sina sidor och lever på klick. Och nu börjar det komma studier som visar att det redan nu är 58 procent av klicken som har börjat försvinna – alltså att användarna slutar klicka sig vidare, därför att resultaten redan syns på sökresultatsidan.

Det här tror jag att vi kommer prata väldigt mycket om de närmaste åren. Det kommer bli en jättestor utmaning för kommersiella verksamheter. Men kanske många inte tänker på att det också kommer att bli en utmaning för icke-kommersiella verksamheter. Jag pratade med en annan stor statlig organisation som har lite samma problem. De får en peng varje år i sina medel för att ta fram information till allmänheten, och det är klart att om det visar sig att ingen läser informationen – varför ska vi då lägga skattepengar på att ta fram den? Paradoxalt nog skulle det kunna vara så att det är fler än någonsin som nås av och läser den här informationen, från till exempel Försäkringskassan eller från Svenskarna och internet. Men vi har inget sätt att veta det. Det här tror jag blir en enorm utmaning.

Lite snabbt ska jag hinna prata om bedrägerier med generativ AI, för det här är någonting som vi ser som ett väldigt, väldigt snabbt uppblossande problem just nu. Generativ AI kan numera generera bilder som ser väldigt verklighetstrogna ut. Det som händer är att det på sociala medier skapas fler och fler falska butiker med hjälp av generativ AI. Här är en tjänst som jag hittat och som faktiskt fanns på riktigt, som heter Astrids väskor. Alla bilder – både på Facebook, på sajten och allting – är AI-genererade. Till och med väskorna är i många fall AI-genererade. Ibland kan de vara stulna också, men just de här är AI-genererade.

Vi har kommit till en punkt där det inte längre går att se skillnad på vad som är AI och vad som är foto. Jag har några snabba exempel som ni ska få titta på. Vilka av de här bilderna är AI, och vilka är riktiga fotografier? När ni tänker på de här två bilderna – är det parken eller kakorna som är verkliga? I det här fallet är det parken som är ett verkligt foto, och kakorna som är AI-genererade. Är det olivoljan, ett produktfoto, som är AI-genererad, eller är det ringen, också ett produktfoto, som är AI-genererad? I det här fallet är båda AI-genererade. Det här är ganska harmlösa exempel.

Men det här är två bilder från Gaza. Den ena bilden visar en explosion som sker i Gaza. Den andra visar vad som hände efter explosionen. Vilken av de här bilderna är på riktigt, och vilken är AI? I det här fallet är det bilden till vänster – det exploderade huset – som är AI.

Vi svämmar redan över av AI-genererat material. Det kommer vi att göra i text, och det kommer att göra sökningen svårare. Vi svämmas också över av AI-genererat material i form av bilder, som gör det mycket svårare för människor att göra en informationsbedömning. Och om vi inte lär människor att hantera information på samma sätt som vi gjorde med sökmotorer – det vill säga att de behöver gå till källan för att kunna värdera den – då riskerar vi att skapa ett samhälle där ännu fler blir lurade av sökmotorresultat och av AI-bilder.

Jag tror att jag avslutar där, så att vi har lite tid för frågor också.

Observera att innehållet (texten, bilder, video och så vidare) på sidan kan vara licensierad i enlighet med olika licenser.

Texten på denna sida är licensierat enligt Creative Commons Erkännande 4.0 Internationell (CC BY 4.0).

Detta innebär att du:

• får kopiera och dela vidare materialet i vilket medium eller format som helst
• får remixa, återanvända och bygga på materialet
• får använda det i kommersiella syfte och sammanhang
• inte behöver fråga om lov.

Om du bearbetar, delar eller använder texten:

• Ge ett korrekt Erkännande
  • ange verkets namn,
  • ange vem som skapat verket,
  • ange länk till verkets ursprungsplats,
  • ange länk till upphovspersonens webbsida (frivilligt, men trevligt),
  • ange vilka delar som eventuellt är bearbetade
  • länka till licensen.

Ett korrekt erkännande skulle kunna se ut så här:

Allt du skulle vilja veta om Creative Commons, men varit för skraj att fråga om, av Ola Nilsson. Texten är licensierad med Creative Commons Erkännande 4.0 Internationell (CC BY 4.0).