MIK-utsikten: Plattformsdebatten, Wikipedia-kriget och AI-lärande

Efter en lång paus återkommer MIK-utsikten. Det har hänt väldigt mycket sedan sist och inte minst i skrivande stund, med Donald Trump som president och en snabb och spännande AI-utveckling. I den här MIK-utsikten kikar vi på den nya, eller nygamla, plattformsdebatten och tipsar om några matnyttiga AI-relaterade resurser samt en Wikipedia-thriller.

Utöver ovan nämnda ämnen lyfter denna MIK-utsikt läget för faktagranskning på de stora plattformarna, tips kring hur man kan omvärldsbevaka på Bluesky samt flera tips på AI-fortbildning, men också mycket annat. 

Plattformsdebatten når stormstyrka

Med det senaste presidentvalet i USA och den nytillträdda Trumpadministrationen har en rad frågor kring de digitala plattformarna aktualiserats på olika vis. X (före detta Twitter) har ju länge varit omdiskuterat, än mer så med Elon Musks agerande (läs mer om detta i SVTs artikel) och hans inblandning i tysk och brittisk inrikespolitik, men ännu en debatt tog fart när Meta (Facebook, Instagram, Threads) aviserade att de kommer att reducera moderering av innehåll på sina plattformar. Det omtalade samarbetet med oberoende faktagranskare ska avslutas och ersättas med ett användargenererat upplägg likt Community Notes på X, till en början i USA och, av allt att döma, snart i övriga världen. Detta har skakat om faktagranskningsbranschen för vilken Metas program spelat en viktig roll under en rad år. Det har pekats på hur Community Notes mycket väl kan vara ett bra komplement till professionella faktagranskningar men absolut inte en fungerande ersättning. I snabb takt har problem kring andra plattformar också kommit att diskuteras alltmer, inte minst utifrån säkerhetsaspekter.

EU får nog framöver dessutom räkna med ett hårt tryck från USA rörande de nya regleringar som gjorts med DSA, DMA och kanske även det tidigare GDPR. Kanske behöver EU fundera över egna plattformar och digitala tjänster, om inte annat som en beredskap inför om det verkligen skulle brännas till, vilket Carl Heath nyligen skrev om på sin blogg och i Forskning & Framsteg.

Bluesky och forskarvärlden

Intresset för alternativ till de stora kommersiella (amerikanska och kinesiska) sociala medier-plattformarna har ökat snabbt. Man har på senare tid börjat se migration mellan olika plattformar i en helt annan skala än tidigare, och debatten om vilken väg morgondagens plattformar ska gå har aktualiserats.

Den mest omtalade ersättaren i slutet av 2024 blev Bluesky, som har attraherat inte minst amerikaner med hjärtat till vänster men också många nätverk av forskare och andra experter. För de senare har väl den allmänna atmosfären på X varit avgörande. De är nu så många att det man en gång kunde kalla för ”forskar-Twitter”, som känts närmast döende de senaste åren, nu kan sägas ha återuppstått på Bluesky. Tidskriften Nature gjorde nyligen en läsarundersökning och det visade sig att en stor majoritet av läsarna nu är Bluesky-användare, varav många är tidigare X-användare. Den amerikanska dominansen har varit stor, men allt fler europeiska experter och organisationer dyker upp på plattformen. En inspirerande möjlighet med de här nätverken är de möten som tenderar att växa fram, med tvärvetenskapliga diskussioner och dialoger mellan forskare, andra experter och praktiker.

En förträfflig ny resurs för den som vill hitta experter att följa inom specifika fält, exempelvis inom MIK-fältet, är startpaket (“starter packs”). Det är listor över konton som enskilda Bluesky-användare skapar och som andra kan följa. Spridningen av dessa har gått fort. I mitten av november 2024 fanns kring 40 000 startpaket och i skrivande stund är de närmare 275 000. I november fanns inte ett enda på temat mediekunnighet (eng. media literacy), men i skrivande stund finns det 77 stycken vid en sökning i Bluesky Directory. Samma utveckling gäller alla möjliga närliggande ämnen. Söker jag på ”fact check” får jag hundratals träffar och ”conspiracy theories” ger många träffar i kombination med ”experts” och ”researchers”. Sedan finns sådant som kognitionsforskning, desinformation och propaganda, extremism, vetenskapskommunikation, medieforskning och digital demokrati. Det finns även specialvarianter som ”Creating a trustworthy information ecosystem” och ”Human-AI collaboration”.

I november skrev jag en tråd på Bluesky med tips på en del startpaket inom mina ämnesområden. Den är väl redan att betrakta som föråldrad, med tanke på hur fort det har gått sedan dess, men där finns många spännande namn för den intresserade. Utöver sådana här startpaket med konton finns det så kallade feeds och listor med liknande funktioner. 

Threads och fediversum

Det ska påpekas att Bluesky måhända blivit den tillfälliga vinnaren i detta sammanhang, men rörligheten inbegriper flera plattformar. Metas Threads är faktiskt betydligt större än Bluesky, även om det förmodligen till stor del har att göra med plattformens direkta koppling till Instagram. Sen har vi det så kallade Fediversum, med Mastodon som mest kända instans, byggt på principer som tilltalar många som är kritiska mot kommersiella centraliserade plattformar. Kring Bluesky försöker man bygga en liknande struktur genom ett projekt som heter Free our Feeds, med många intressanta namn inblandade, men det återstår att se om det kommer att lyckas. Något som blir allt tydligare är i alla fall att alla sådana här utmanare bygger på interoperabilitet, det vill säga att användare kan följa och kommunicera med varandra (samt bygga och behålla sina nätverk) även om de är på olika plattformar. Man vill undvika de inlåsningseffekter som flertalet stora kommersiella plattformar har haft. Sedan finns alltid skalproblem när nya plattformar växer. Hur Bluesky och federerade nätverk kommer att klara moderering och liknande om och när de blir riktigt stora får vi helt enkelt se. Renée DiResta skrev nyligen om denna eventuella pågående decentralisering av vårt sociala medier-landskap, och om en del svårigheter som kan väntas för icke-kommersiella plattformar när de skalas upp.

Ny AI-lärarhandledning

De senaste åren har den rasande utvecklingen för generativ AI varit föremål för många frågor och ständig debatt. Många yrkeskårer brottas med hur man ska förhålla sig till de här verktygen. Digiteket har en del nyare AI-material som vänder sig till bibliotekarierna. För skolvärlden innebär utvecklingen många utmaningar, och med utgångspunkt i medie- och informationskunnighet finns en hel del angelägna frågor:

• Vad ska skolan och lärarna göra med AI egentligen? 
• Vad är AI-kunnighet idag?
• Vad innebär EU:s AI Act, AI-förordning, i praktiken? 

Finska Faktabaari, en faktagranskare som arbetar mycket med utbildningsfrågor i anslutning till MIK, har kommit med en AI-lärarhandledning. Den består av 21 kapitel som till stor del relaterar till undervisning i MIK. Den kompletterar Faktabaaris tidigare fina Digital information literacy guide, som kom 2022, vars uttalade syfte är att ur ett utbildningsperspektiv belysa följande frågor:

• Vad är artificiell intelligens och hur fungerar den (AI som lärandemål)?
• Hur kan AI användas ansvarsfullt och etiskt så att den stöder undervisningen och främjar elevernas lärande (AI som verktyg för läraren)?
• Hur kommer AI att förändra samhället (AI:s inverkan på samhället inom områden som arbetsmarknad, informationshantering, miljö, kommunikation, framtidens yrken och så vidare)?
• Varför är det viktigt med ett sunt kritiskt förhållningssätt gentemot det som skapats av AI (Utmaningar med AI)?

Den nya AI-handledningen finns nu på engelska och på finska. I skrivande stund släpps även kapitel löpande på svenska. 

Kurs om AI (LLMs) och om när man kan, och inte kan/bör, använda dessa verktyg

Carl T. Bergstrom och Jevin West blev kända för några år sedan för sin kurs (och bok) Calling Bullshit som använts av en lång rad universitet, college och gymnasier i USA och flera andra länder. Fälten som kursen berör är källkritik, kritiskt tänkande, vetenskaplig kunnighet, statistikkunnighet och datakunnighet. Nu återkommer Bergstrom och West med en ny kurs, den här gången om att använda AI och om dess olika svagheter och falluckor med mera. 

“We view this as a course in the humanities, because it is a course about what it means to be human in a world where LLMs are becoming ubiquitous, and it is a course about how to live and thrive in such a world.”
– Carl T. Bergstrom och Jevin West

Kursen har en sajt där materialet med 18 lektioner ligger ute, även om det inte är helt färdigställt. Bland annat ska en del videor tillkomma samt fler handledningar för lärare. Har man synpunkter så finns möjligheten att höra av sig. Materialet kan även användas för självstudier.

AI-knep från Mike Caulfield

Mike Caulfield har varit med i olika Digiteket-artiklar tidigare, exempelvis med sin SIFT-modell (lateral läsning) och boken Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online, som han skrivit tillsammans med Sam Wineburg.

Inte oväntat har även han på senare tid tittat närmare på vad man kan göra med generativ AI. Han har ”lekt” sig fram till flera intressanta möjligheter:

• vad man kan göra med vanliga AI-chattbottar för att kringgå deras otillförlitlighet och få hjälp med faktagranskningar. Det handlar om hjälp att ”ta ut en bäring” på ett problems ”landskap”, medan AI-chattbottarna samtidigt kan ha stora problem med starkt nischade fakta.
• att hantera ”unknown unknowns” (när du inte vet vad du faktiskt inte vet om ditt problem).
• att bryta ned en ny konspirationsteori i dess komponenter.

Problem kan uppstå om ett svar inte kan formuleras tvärsäkert (när svaret är i stil med “allt tyder på …”) eller i situationer med felaktigt ställda frågor som lätt leder till felaktiga svar, i värsta fall till och med till “hallucinationer” hos språkmodellerna. 

En spännande möjlighet som Caulfield provat är den så kallade Toulminmodellen, en klassiker när det kommer till argumentations-/retorikanalys. Hans prompter har alltså undvikit de vanligare frågeformuleringarna och har istället instruerat AI-chattbotten att ”resonera” kring ett problem utifrån Toulminmodellen, med ofta riktigt gott resultat. AI-chattbotten går då steg för steg igenom påståendena som ska granskas, argumentationen och retoriken, och presenterar resultatet pedagogiskt. Här rör vi oss i ett intressant gränsland där faktagranskning och argumentationsanalys överlappar varandra, där man förmodligen kan få fram intressanta pedagogiska möjligheter. Caulfield betonar att man nog inte ska se på de nyare ”resonerande” typerna av AI som ”lärare” eller direkta leverantörer av innehåll för undervisning, men att de däremot är utmärkta på ”model reasoning”, för att visa hur en expert skulle resonera kring ditt problem.

Caulfield har lanserat en så kallad GPT-instans där vem som helst kan lägga in en skärmdump av valfritt tvivelaktigt inlägg från sociala medier och få en analys från GPT utifrån Toulminmodellen. Den har bytt namn några gånger, först från Online Toulminator till dagens Well-Grounded. Det handlar alltså inte om en regelrätt faktagranskning utan om en multimodal argumentationsanalys av uppbyggnaden av och rimligheten i ett påstående eller resonemang. Hans målsättning är att utvidga det här arbetssättet på olika vis. Här finns en video där Caulfield förklarar AI-verktyget närmare.

Låta AI skriva Wikipedia-artiklar?

I vintras lanserade Stanfords universitet en prototyp av ett minst sagt intressant AI-verktyg, STORM (Structured Task-Oriented Research Machine), som kan sägas leverera gedigna Wikipedia-artiklar om vad som helst. Grundtanken är att skapa kunskapstexter byggda som resultatet av ett samarbetande team av experter. STORM simulerar enligt utvecklarna samtal mellan flera AI-agenter, där varje agent representerar olika perspektiv på ämnet. Därmed ska STORM kunna utmana sina egna antaganden, utforska olika vinklar på ämnet samt förfina och förbättra dispositionen (lite som mänsklig kollektiv intelligens). Målet är en mer nyanserad och välbalanserad artikel som drar nytta av flera ”synpunkter”, med hög nivå för akribi och referenser. 

Wikipedia-kriget, i verkligheten och som roman

I USA blir Wikipedia alltmer utsatt för olika attacker, misstänkliggöranden och hot från Elon Musk och vissa teknikbolag, från MAGA-sfären, från konservativa tankesmedjor, och från medier som New York Post. En grupp Wikipedia-redaktörer hade nyligen ett av sina “Wiki Wednesday”-möten i New York och Feven Merid från Columbia Journalism Review var där och pratade med några av wikipedianerna. En del är inte särskilt oroliga, Wikipedia har varit utsatt för alla möjliga sorters påtryckningar och påverkansförsök, även från stater, i 20 år, men andra tycker det har blivit lite obehagligt.

Det har för övrigt kommit något så ovanligt som en Wikipedia-thriller. Det är journalisten och juristen Stephen Harrison, som länge skrivit om Wikipedia, som nu har kommit med en roman i thrillerformat. The Editors handlar om olika dramatiska händelser i början av covidpandemin kring världens största encyklopedi, i boken lätt förklädd med namnet Infopendium. Det är på många vis en rätt typisk thriller, där tvivelaktiga krafter försöker påverka plattformens artiklar i olika riktningar, och det går även geopolitik i alltihop. Boken beskriver också ingående kring hur Wikipedia, och crowdsourcing, fungerar, vilket egentligen inte är så lätt att illustrera. Vi får följa en journalist och några wikipedianer som närmast liknar antihjältar, djupt mänskliga med olika tillkortakommanden, men också med styrkor just i och med Wikipedia-, förlåt, Infopendium-kollektivets arbetssätt, och hur dessa kan tänkas reagera när utmaningarna blir riktigt stora. För att vara en thriller är boken full med artikelredigeringar, redigeringskrig och redigeringsregler, men spännande är den. Den förmedlar i slutändan stor respekt för det arbete som mängder av helt vanliga människor lagt på ”Infopendium”. Just Wikipedia-redaktörer och IT-journalister verkar vara riktigt nöjda med boken. Man kan läsa ett par intervjuer med Harrison om hans bok, en i Yahoo där läget för Wikipedia idag också ventileras, och en i Ars Technica, där man även mer specifikt diskuterar Wikipedias roll i AI-tidsåldern.