MIK-utsikten: AI-fejk eller inte? Och lite om det där med interoperabilitet, en 16-årig fact-checker och attackerna på vetenskapssamhället

I denna MIK-utsikt tar Mathias Cederholm upp den tilltagande misstron mot bilder som visat sig under Israel-Hamas/Gazakriget, ljugande chattbotar och en amerikansk diskussion om attacker på vetenskapssamhället och demokratin. Men också en 16-årig fact-checker, hur man kan skapa ”fake news” i skolan och en antologi om unga och medier. Samt det där med ”interoperabilitet” som ett sätt att få sociala medier att bli mer som användarna vill ha dem.

I och med det pågående Israel-Hamas/Gazakriget, och ännu en våg av informationskaos, så har den redan länge omdiskuterade frågan om AI-genererat fejkinnehåll för första gången verkligen blivit ett problem. Men inte på det viset många nog har föreställt sig. Det blev alltså INTE någon boom av AI-fejk, men däremot har en hel del bilder, videor och så vidare av många på sociala medier antagits vara och förkastats som AI-genererade fast de varit autentiska, något som kan vara ungefär lika knepigt som viral AI-genererad desinformation. 

New York Times tog upp detta i en artikel nyligen, och där påpekas att det mesta av den miss- och desinformation med bilder som har fått större spridning hittills under kriget precis som tidigare har varit i form av “cheapfakes”, det vill säga exempelvis autentiska bilder och videor men från helt andra sammanhang, som placerats i en ny felaktig kontext. 

Tidningen presenterar detta som en överraskning, men det har egentligen varnats sedan länge, exempelvis av Mike Caulfield, om att allt större möjligheter att manipulera och fabricera bild  och video förmodligen kommer att medföra en tilltagande misstro mot dessa medier hos allmänheten. Och en sådan felriktad misstro kan bli ett allvarligt problem om den blir utbredd. Artikeln i New York Times ger en del exempel på sådana här missförstådda bilder, och visar också på hur AI-detektorer som ger felaktiga bildanalyser kan bidra till missförstånden. Artikeln lyfter också möjliga vägar framåt, och en som jag själv har förhoppningar om är möjligheterna med ursprungsmärkning av digitalt innehåll, som CAI/C2PA. Vi har haft uppe dessa tidigare i MIK-utsikten, men för att kort rekapitulera – med lösningar som CAI kan man ”ursprungsmärka” digitalt innehåll (numera även AI-genererat) på ett sätt som även inbegriper dokumentation av förändringar och överföringar av samma innehåll, och som dessutom enkelt kan granskas av normalanvändaren. Men för att den lösningen ska fungera så behöver många hård- och mjukvarufabrikanter, och viktiga informationsaktörer och plattformar, ansluta sig till dessa system.

Det kanske inte blir en flod?

Många, och även jag själv, har uttryckt en hel del oro för en kommande flod av miss- och desinformation i form av AI-genererat innehåll. Med de nyare varianterna av generativ AI blir det så mycket lättare att skapa digitalt innehåll som kan vara övertygande på olika vis. Men det finns andra perspektiv på detta, och tre välkända forskare inom detta fält kom nyligen med en kommenterande artikel för Misinformation Review där de påpekar några motverkande faktorer. Inte minst lyfter de fram vad man kan kalla ”efterfrågesidan”. Det är helt enkelt inte särskilt säkert att människor söker sig till mer felaktigheter även om dessa blir fler, det handlar bland annat om människors medievanor. Mycket av den innehållsexplosion vi kan räkna med lär helt enkelt inte få någon publik. Personligen tror jag i och för sig att vi ändå har att göra med en utmaning som kan bli besvärlig åtminstone i vissa situationer. Men möjligen kan lösningar som CAI/C2PA komma att bli en viktig dellösning på detta. Man kan tänka sig en kommande ny slags informationsvärld där allt digitalt innehåll överhuvudtaget MÅSTE förutsättas vara fabricerat eller manipulerat såvida det inte är proveniensmärkt à la CAI/C2PA.

AI-chattboten, novisen och experten

Mike Caulfield tog för övrigt upp en annan tankeväckande AI-relaterad fråga i en poddintervju/artikel härförleden, apropå hans och Sam Wineburgs nya bok Verified (som jag hoppas kunna ta upp närmare i nästa MIK-utsikt). De nu så populära AI-chattbotarna som ChatGPT uppfattas av många som ett tacksamt verktyg för nybörjare att bearbeta mer komplex information. Men ett problem är ju att textgenerativ AI rätt ofta kommer med förhållandevis irrelevant eller till och med felaktig information. I intervjun ger han ett pedagogiskt exempel på hur det kan se ut. 

Slutsatsen blir att det här sättet att använda chattbotar på främst är en tillgång för dem som redan behärskar ett ämnesområde, för experterna som kan hitta och åtgärda eventuella fel eller brister i den AI-genererade texten. För nybörjaren är detta ofta betydligt svårare. Caulfield menar att diskussionen om ChatGPT som ett verktyg som hjälper nybörjaren att närmast bli expert är ett felslut. Det är enligt Caulfield främst experter som verkligen kan dra nytta av de här verktygen. Personligen vill jag dock tillägga att de här språkmodellerna utvecklas i rasande takt, och att exempelvis olika kommunikativa aspekter beaktas med stöd från forskning. Inte minst under handledning kan sådana här verktyg redan vara riktigt intressanta för till exempel olika typer av MIK-undervisning, detta tänker jag ta upp i en kommande MIK-utsikt.

I podden diskuteras också ”critical ignoring”, lateral läsning/SIFT-metoden (granska så som en fact-checker gör), och några nya utmaningar som nu kommer med generativ AI (Caulfields resonemang: den gör inte nybörjaren till expert men är däremot användbar för experter).

Att skapa ”fake news” i skolan

Vetenskapspedagogen Melanie Trecek-King har nämnts tidigare i MIK-utsikten. Nu har hon kommit med en intressant artikel i Skeptical Inquirer om hur man i skolan kan använda aktivt skapande av ”fake news”, missinformation, som ett sätt att stärka källkritisk förmåga och resiliens mot desinformation, propaganda etc. Utgångspunkten är så kallad inokulering (att man på olika vis kan ”vaccinera” sig mot desinformation med mera) men med den mindre vanliga ansatsen att detta är något man kan göra i vanlig skolundervisning. I artikeln ges några konkreta exempel, det handlar om övningar kring logiska fallasier och kring typiska inslag i pseudovetenskapliga hälsopåståenden respektive konspirationsteorier. Annars har “inokulering” diskuterats (och studerats) en hel del i form av spel, det vill säga som spelbaserat lärande, vilket Digiteket har haft uppe tidigare. Artikeln har en matnyttig referenslista med andra läsvärda texter om fenomenet. En av Trecek-Kings studenter citeras med den kärnfulla formuleringen: “Once you can ‘see’ the techniques, you can’t ‘unsee’ them.”

Boken The Deadly Rise of Anti-science: A Scientist’s Warning

Den här debatten är rätt intensiv för närvarande i USA, och en ny bok av den välkände vaccinforskaren, debattören, folkbildaren med mera Peter Hotez har väckt en hel del uppmärksamhet. Boken tar bland annat upp vaccinmotståndare-rörelsen i USA och hur dess kampanjer under senare år vuxit, politiserats och vunnit stöd från politiker och nyhetsmedier. Just vaccinmotståndare-frågan har aktualiserats mer än vanligt i USA på sistone eftersom en av rörelsens främsta företrädare, Robert F. Kennedy Jr, ställer upp i det kommande presidentvalet. Boken är skriven som en varning men ska också ha mer optimistiska infallsvinklar och Hotez pekar i den på olika sätt att bekämpa vetenskapsförnekelse. Boken heter The Deadly Rise of Anti-science: A Scientist’s Warning, och Hotez har även i samband med utgivningen medverkat i en rad intervjuer och poddprogram, bland annat denna intervju i Scientific American.

”Varför blir internet allt sämre?”, big tech och interoperabilitet

Många användare av sociala medier är inte särskilt nöjda med de plattformar de använder, av olika skäl. Men det är inte så lätt alla gånger att bara byta till en ny plattform, att ”migrera”. En gammal fråga som kanske varit särskilt aktuell på senare tid för många användare av X/Twitter. Vad hindrar folk att byta? Det handlar inte minst om att många investerat mycket tid, nätverkande/byggt upp publik, innehåll, samtal med mera på den/de plattformar de använt en längre tid. Att låsa in delar av den information och de data detta handlar om, som flertalet stora plattformar gör idag, kan ses som ett sätt att låsa in själva användarna. En väg ut ur det här skulle kunna vara det som kallas interoperabilitet, det vill säga att användarna kan välja vilka plattformar de vill och kommunicera och korsposta över deras gränser, kanske till och med ta med sig innehåll och nätverk som de behagar. Sådant här var inte ovanligt i internets ungdom, och lever idag inte minst med det som kallas Fediversum där Mastodon är den största plattformen. Interoperabilitet är något som diskuteras på olika håll nu, bland annat inom EU. Men EU har av någon anledning valt att ställa sina första krav på interoperabilitet gentemot de krypterade meddelandetjänsterna, inte mot de sociala medieplattformarna. Och det är något som verkligen kan diskuteras.

Cory Doctorow, en välkänd internetaktivist, journalist och författare, har kommit med en bok på just detta tema. Han driver hårt frågan om interoperabilitet och tänker sig detta som ett vapen mot den tendens till monopol eller karteller som sociala medievärlden utvecklats till. Boken heter The Internet Con: How to Seize the Means of Computation, och vill man ha en genomgång av bokens grundläggande argumentation så går Liv Strömquist igenom den lite närmare i avsnitt 224 av den svenska podden Stormens utveckling. Vill man se ett exempel på hur öppna eller federerade sociala medier kan se ut så har Carl Heath, forskare vid Rise med mera, en kort bloggartikel om detta, ”En framtid med öppna sociala medier”.

Artikeln ”Misinformation and the epistemic integrity of democracy”…

En liten grupp välkända forskare med inriktning på ämnen som desinformation: Stephan Lewandowsky, Sander van der Linden och Naomi Oreskes, har publicerat en opinionsartikel i tidskriften Current Opinion in Psychology, med titeln ”Misinformation and the epistemic integrity of democracy”. De tar upp problemet miss- och desinformation av idag som ett reellt hot mot demokratin och dess ”epistemiska integritet”. Artikeln utgår från de mer omfattande desinformationskampanjer som pågått på senare tid kring exempelvis klimatforskningens rön, vaccin och valresultat, och som även inbegriper kampanjer med trakasserier mot forskare, experter och liknande. I artikeln diskuteras hur det är en viktig byggsten i själva demokratin som angrips, och det blir inte bättre av att även de som forskar kring dessa problem för närvarande angrips på olika vis. Att en del politiker medverkar till detta (sammanhanget är framförallt amerikanskt) förvärrar problemet. Artikeln går sedan in på olika möjliga vägar framåt, sådant som lagstiftning (som EU:s Digital Services Act) och de stora plattformarnas hantering av desinformation; människors syn på personliga data versus riktad politisk annonsering och moderering av desinformation och näthat (många vill ha sådana insatser); olika interventioner som tips i mediekunnighet till allmänheten, så kallade accuracy nudges och inokulering (”vaccinering” mot påverkan).

Forskningsantologi om ungdomar och medier

Hur ser dagens ungdoms medieanvändning och “mediediet” egentligen ut? En fråga som utgör en viktig utgångspunkt för hur undervisning i och information om medie- och informationskunnighet ska utformas. Nu har det kommit en forskningsantologi från Nordicom just om skandinaviska barns och ungas medielandskap och mediediet för närvarande. Boken är open access och heter Audiovisual Content for Children and Adolescents in Scandinavia Production, Distribution, and Reception in a Multiplatform Era (red. Pia Majbritt Jensen, Eva Novrup Redvall, Christa Lykke Christensen). Många infallsvinklar tas upp i boken. Något som lyfts fram i Nordicoms presentation av den är hur barn/unga numera i mycket hög grad vänder sig till de globala plattformarna, vilket innebär en del problem för inhemska aktörer. Det arbetas hårt för att skapa bra skandinaviskt innehåll, men detta sker i motvind. En fallstudie handlar om hur public service arbetar på nya sätt för att försöka förbli relevanta för barn och unga, bland annat genom att använda sig av Youtube.

16 år gammal och fact-checker sedan tre år tillbaka!

Isaac Harte har arbetat som fact-checker i tre år och har granskat allt möjligt mellan himmel (månen) och jord. Och nu är han hela 16 år gammal. I en artikel för Poynter berättar han lite om hur det har varit under de tre åren. Artikeln är samtidigt en presentation av amerikanska mediekunnighetsinitiativet MediaWise:s projekt Teen Fact-Checking Network, med en grupp ungdomar som gör så kallade fact-checks, med andra ungdomar på sociala medier som målgrupp. Det är smått imponerande hur en 16-åring vant resonerar kring termer som lateral läsning, att läsa uppströms, nyckelordssökning och omvänd bildsökning. Visst hade det varit kul med något liknande i Sverige, ett svenskt Teen Fact-Checking Network.