ChatGPT – en lärare att ställa dumma frågor till

Trots att ChatGPT ofta beskrivs som opålitligt används det till att söka information. I masteruppsatsen ”Information i sammanflätning och förändring: Ungdomars informationssökning med ChatGPT” beskrivs hur ChatGPT:s inträde i ungdomars informationspraktiker i förlängningen har lett till både förändringar i hur ungdomarna använder Google och hur de granskar fakta. Samtidigt kan den nya information som genereras ha konsekvenser för informationslandskapet i stort.

Två månader efter att ChatGPT lanserades i november 2022 hade den 100 miljoner aktiva användare. Samtidigt möttes verktyget med oro och skepsis från många håll, inte minst av verksamma inom informationshantering och kunskapsförmedling. Inom den akademiska världen såg man risker i hur användning av ChatGPT skulle kunna undergräva den akademiska integriteten, genom att möjliggöra fusk och plagiat i studentarbeten. Oron delades av grund- och gymnasieskola och många skolor har idag förbjudit verktyget. Skolverket har manat till försiktighet och efterlyst riktlinjer för både elevers och lärares användning.

Samtidigt lyftes också frågan om vad AI-genererade texter faktiskt innehåller. Eftersom ChatGPT är tränad primärt på öppet tillgänglig text på internet, och då utvecklaren OpenAI inte vill avslöja exakt vilka textmassor som inkluderats, väcktes frågor om upphovsrätt. Skribenter och journalister ville veta om deras texter hade inkluderats i träningsmaterialet, utan deras medgivande. På samma gång varnade forskare, tillsammans med utvecklare från OpenAI, för att användningen av generativ AI kan leda till både medveten och omedveten spridning av falsk eller vilseledande information. Dels genom att verktyget kan användas för att producera propaganda i stor skala till låg kostnad, dels genom att chattbotten ofta kommer med felaktiga påståenden, så kallade hallucinationer.  

ChatGPT och generativ AI 

Generativ AI är en gren av artificiell intelligens som inte bara hanterar existerande data utan även kan producera nytt innehåll, såväl text som bild och ljud. ChatGPT är den första generativa AI-chattbotten som nått en bredare allmänhet. Chattbotten är designad att förstå och använda sig av så kallat naturligt språk, det vill säga språk som liknar det mänskliga, i motsats till exempelvis programmeringsspråk.  

ChatGPT bygger på en så kallad transformer-modell, som kan hantera sekventiella data. Det gör det möjligt för chattbotten att identifiera relevans av olika ord i en mening och på så sätt förstå sammanhang i en text. Att modellen är förtränad (pre-trained) innebär att den först tränats på en mycket stor mängd data för att lära sig mönster och struktur i språk. I ett andra steg tränas modellen på meningar och konversationer som skrivits av människor i syfte att träna på just samtal. När en användare skriver in en prompt – en fråga, instruktion eller uppmaning – i ChatGPT så beräknar chattbotten vilket ord som troligast borde följa på det förra. Sedan gör den om samma procedur för att avgöra nästa ord och nästa efter det. Eftersom resultatet bygger på en sannolikhetsbedömning av vilket ord som är det närmast efterföljande spelar den exakta formuleringen av en prompt stor roll. Om samma fråga ställs vid olika tillfällen eller med olika ordföljd, kan användaren helt enkelt få olika svar. Det kan också leda till direkta felaktigheter.  

ChatGPT är ingen sökmotor 

ChatGPT innehåller ingen databas med information. Att den är tränad på en mycket stor mängd text gör dock att den oftast kan svara på de frågor som användaren ställer den. Det chattbotten gör är att gissa vilket ord som troligast passar bäst efter det förra – den söker alltså inte heller igenom sitt träningsmaterial när den får en fråga. Det mycket stora träningsmaterialet är framför allt hämtat från det öppna internet, fullt av konversationer och mänskligt språk men också av olika sorters faktatext och information. När chattbotten räknar ut vad som är det troligast efterföljande ordet kan den helt enkelt med god sannolikhet också svara på faktafrågor. 

Att ChatGPT används till informationssökning har lett till oro inom biblioteks- och informationsvetenskapen. Det den gör är att generera text. Chattbotten hänvisar inte till källor, och utan källor finns ingen att hålla ansvarig för den information som förs fram. ChatGPT blir således både söktjänst och källa (Andersson & Sundin 2024). Det verkar helt enkelt finnas en konflikt mellan funktion och faktisk användning: trots att ChatGPT inte kan användas för att söka information, så används den för att söka information.   

Ungdomars informationspraktiker

I uppsatsen undersöks hur ungdomars informationspraktiker har förändrats sedan de börjat använda sig av verktyget ChatGPT. Genom intervjuer med åtta ungdomar mellan 15 och 19 år och analyser av deras konversationer med ChatGPT vill uppsatsen bidra till ökad förståelse för hur generativ AI medverkar till att förändra förutsättningarna för ungdomars informationssökning i vardagen, samt hur ChatGPT och användare interagerar med varandra vid informationssökning. Målgruppen har valts för att ungdomarna, födda mellan 2005 och 2009, har vuxit upp i en värld där olika digitala plattformar kan anses vara en lika viktig del av vardagen som livet offline. 

En söktjänst av många, i skolan och utanför 

De ungdomar som medverkar i studien beskriver hur ChatGPT sömlöst har flätats in i deras vardag, där olika sorters informationssökning spelar en viktig roll. De använder den framför allt inom två områden: för skolarbete och för att lära sig saker på fritiden. Ofta används chattbotten parallellt med söktjänster. Det är till exempel vanligt att den används som en startpunkt, en tjänst där de kan få grundläggande kunskap om ett ämne för att sedan söka vidare med hjälp av till exempel sökmotorer. De kan också använda chattbotten för att söka i andra tjänster, genom att till exempel fråga om vilka Youtube-videor som skulle kunna förklara en skoluppgift. Olika sätt att inhämta information – ChatGPT, Google, sociala medier, böcker, lärare etc. – har enligt ungdomarna olika syften och användning beroende på vilken information de är ute efter och vad de vill använda den till. De kan till exempel få grundläggande information i en skoluppgift, som de sedan ber ChatGPT om hjälp med att förklara, för att sedan bekräfta de fakta som chattbotten givit dem i söktjänster som skolan tillåter. Sökmotorer som Google har fortfarande en central roll i ungdomarnas informationssökning, men i och med att ChatGPT introducerats så har den rollen delvis kommit att förändras. Google har i vissa fall gått från att vara primär söktjänst till att vara ett verktyg för att granska de uppgifter som ChatGPT uppger.

ChatGPT – en lärare att ställa dumma frågor till

De flesta ungdomar beskriver att chattbotten hjälper dem genom att svara på direkta faktafrågor, men också med inspiration och strukturering. Flera av ungdomarna beskriver hur de använder ChatGPT i situationer där de behöver hjälp med skoluppgifter på en grundläggande nivå. Snarare än att fråga en lärare om hjälp kan de till exempel be chattbotten förklara vad skoluppgiften egentligen går ut på eller hjälpa dem med att välja ett ämne till en text de ombetts skriva.

Samtidigt intar ChatGPT en pedagogisk och förklarande roll när ungdomarna ställer frågor. Chattbotten svarar inte bara på frågan som ställts utan sätter in uppgifterna i ett sammanhang och introducerar relevanta begrepp. Den tilltalar frågeställaren med ett “du”. Genom formuleringar som “Låt oss beräkna det” bjuder den också in användaren i lösningen av uppgifterna. En grundläggande funktion i hur ChatGPT är uppbyggd är att den minns tidigare frågor i samma chatt. Det gör att den inte upprepar sig och att användaren kan ställa frågor som bygger vidare på det som tidigare skrivits, istället för att behöva upprepa de grundläggande premisserna. Informationssökningen blir en konversation, där båda aktörerna arbetar tillsammans för att komma fram till ett svar.

Skolans regler påverkar användningen

De regler som ungdomarnas skolor har satt upp för ChatGPT påverkar starkt hur ungdomarna både använder chattbotten och hur de beskriver och reflekterar över sin användning. Flera av ungdomarna berättar att de inte skulle använda ChatGPT som direkt källa i skoluppgifter, men beskriver vid andra tillfällen under intervjuerna hur de hämtat faktauppgifter från chattbotten i samband med att de studerar. Med andra ord uppger de att de håller sig inom ramarna för vad som är tillåtet i skolan, samtidigt som de beskriver en användning som kan tolkas som att den ligger utanför det tillåtna. Tidigare forskning har lyft hur exempelvis Wikipedia är ett verktyg som används av många elever, trots att skolan förbjudit användning. Det har gjort att eleverna använder Wikipedia som första källa för att sedan bekräfta uppgifterna genom andra, av skolan ”godkända”, källor. Liknande användning av ChatGPT går att se hos flera ungdomar i denna studie.

I några av ungdomarnas skolor är all användning av ChatGPT förbjuden, medan det i andra är specifikt textgenerering av hela skoluppgifter som inte är tillåtet. Förbudet gäller ibland alltså själva tjänsten ChatGPT och ibland vissa användningsområden. En av ungdomarna beskriver hur vissa av hens lärare har förbjudit ChatGPT, medan andra uppmanat eleverna att använda den. För flera av ungdomarna i denna studie verkar det inte vara helt tydligt vad som är otillåten användning av ChatGPT. Den gråzon som uppstår ställer höga krav på studenter och elever att till exempel kunna skilja på olika sorters informationssökning. Den ställer också höga krav på lärare i att förklara skillnaden mellan olika förbjudna källor – till exempel hur Wikipedia, till skillnad från den gratisversion av ChatGPT som de flesta av ungdomarna i studien använder, ger tillgång till källhänvisningar.  

Google tar för lång tid

Merparten av ungdomarna beskriver att snabbheten är en viktig anledning till att välja ChatGPT för informationssökning. Att googla innebär att de själva måste dra slutsatser genom att sammanföra olika källor, eller att de själva behöver söka igenom stora mängder information för att hitta det svar de letar efter. ChatGPT kan istället ge dem ett enda svar. En av ungdomarna beskriver det så här:

Jo, enligt min uppfattning så är en Googlesökning lite mer det här är ämnet jag söker information inom, det är inte det här är frågan jag vill ha besvarad. 

Samtidigt beskriver de flesta av ungdomarna att de ofta ställer följdfrågor till ChatGPT, för att få ett förtydligande eller fördjupad information. Ungdomarnas resonemang går att tolka som att begreppet ”snabbhet” ibland skulle kunna bytas ut mot ”förståelse” – de upplever helt enkelt att ChatGPT förstår vad de menar när de ställer en fråga. Att ungdomarna känner sig förstådda gör också att de lägger mindre vikt vid hur många frågor eller sökningar som behövs för att få ett svar, trots att de uppgivit snabbheten som en lockelse. Det språk som ChatGPT använder sig av ökar också den upplevda förståelsen av svaret. Att ChatGPT bygger på en förståelse av naturligt språk, både i input och i output, gör det möjligt för chattbotten att förstå en fråga formulerad som om den ställts till en annan människa, och möjliggör också ett personligt tilltal i sina svar. 

Unika svar ger ny information

En sökmotor som Google lyfter fram, presenterar och rankar källor. Det ChatGPT gör är istället att generera ny text. Alla de svar som chattbotten ger kan helt enkelt sägas utgöra helt ny information, skapad av frågeställaren och ChatGPT tillsammans. Ungdomarna beskriver hur de använder ChatGPT för att få sammanfattningar, alltså en summering av ett ämne snarare än en utförligare text. Det kan också handla om mer komplexa frågor, där ungdomarna vill ha ett enda svar istället för många delar som de själva måste lägga ihop och värdera. De vill att ChatGPT skräddarsyr information åt dem. En av ungdomarna beskriver det på följande vis:

Jag hade kunnat googla det, men om det inte är nån annan som har tänkt kan man odla pistasch på Gotland och liksom lagt ut en artikel om det … [ChatGPT] liksom resonerar hmm pistaschnötter, de behöver den här värmen för att odlas, det är såhär varmt på Gotland …, liksom för en slutsats.

Precis som intervjupersonen beskriver går den här exakta informationen förmodligen inte att söka fram via Google Sök – av de 100 första resultaten var det närmsta uppsatsskrivaren kom en kommentar på forumet odla.nu där användaren Anders zon III skriver att mandlar växer bra på Gotland. 

Ingen insyn i hur informationen skapas

Samtidigt som det är lätt att se hur skräddarsydd information via ChatGPT kan vara högt skattad ur ett användarperspektiv, skulle tillvägagångssättet för informationssökningen kunna ge konsekvenser för informationslandskapet i stort. Chattbottens utformning gör att konversationer kan sparas av Open AI för utveckling av framtida modeller av chattbotten. På så sätt blir informationen en del av ett större sammanhang, det som genereras kan ligga till grund för framtida svar av framtida chattbottar. I ett större perspektiv går det att se hur den AI-modellens nyskapade information inte heller är skapad ur ett vakuum – den text som chattbotten är tränad på kommer med normer, värderingar och språk från det öppna internet. Den mänskliga träningen för med sig ytterligare påverkan – medveten och omedveten – från de utvecklare som ligger bakom chattbotten. En ytterligare faktor att räkna in vad gäller den information som genereras genom användning av ChatGPT är vem som kan sägas vara upphovsperson, och vad det gör med ansvarsutkrävande.

Flera av ungdomarna i studien uppger att de frågat ChatGPT efter rekommendationer på till exempel Youtube-videor. Just rekommendationer är någonting som tidigare forskning pekat på som särskilt populärt vid informationssökning i sociala medier. Där kan användaren få personliga tips genom att antingen fråga personer i sina sociala nätverk, eller genom att insamlade användardata används till automatgenererade förslag. ChatGPT:s rekommendationer går inte riktigt att placera in i något av facken. Chattbotten har inte en personlig relation till användaren utanför den kanal där rekommendationerna eftersöks. Och den har, enligt tillverkaren OpenAI, heller inte tillgång till bakgrundsdata om användaren att bygga rekommendationerna på. De kan alltså ses som en ny sorts algoritmgenererade rekommendationer, med än mindre insyn i hur urval och rankning styrs.  

Litar inte på ChatGPT – använder eget omdöme för faktagranskning

Samtliga ungdomar i studien uppger att de inte riktigt litar på de fakta som ChatGPT ger dem och flera av dem säger att de inte skulle använda chattbotten för att få fram fakta till skoluppgifter. Samtidigt går det att utläsa ur deras beskrivningar att de använder sig av information de fått från ChatGPT i sitt skolarbete. De beskrivningar de ger av sin användning verkar alltså inte alltid spegla deras faktiska användning. Även om ungdomarna ofta granskar uppgifterna, främst genom att googla, använder de sig framför allt av sitt eget omdöme för att fastställa om informationen är tillförlitlig. Flertalet av dem beskriver att de bara ställer frågor inom områden som de redan har kunskaper om. Förkunskap inom ämnet gör att ungdomarna kan avgöra om ett svar är alldeles för komplicerat i relation till frågan eller, tvärtom, om en komplicerad fråga får ett alldeles för enkelt svar. 

I ungdomarnas beskrivningar går det att se hur de litar mer och mer på ChatGPT i takt med att de ställer frågor inom olika områden – varje gång chattbotten ger svar som de blir nöjda med stärks ungdomarnas tillit. Flera av dem uttrycker också tillfredsställelse över hur bra ChatGPT presterar och hur korrekta svaren ändå ofta blir. De flesta av ungdomarna uttrycker också i hög grad tålamod med chattbotten, de uppfattar den som hjälpsam och trevlig. Det gör inte så mycket att det blir lite fel, man kan formulera om prompten och fråga vidare tills svaret motsvarar det man önskat. Många gånger använder sig ungdomarna av ChatGPT:s tekniska begränsningar för att få det svar de vill ha – eftersom chattbottens minne inte sträcker sig längre än inom en chatt kan användaren öppna en ny flik, ställa samma fråga och få ett nytt svar oberoende av hur det förra såg ut. 

Sammanfattning

Ungdomarna har, enligt sina egna beskrivningar, som främsta syfte att söka information. ChatGPT däremot, har som huvudfunktion att generera text. Trots detta fungerar deras interaktion bra. Informationssökningen sker i samspel och leder till att ny information skapas. 

Det naturliga språket har en viktig del i varför ungdomarna dras till att använda ChatGPT för informationssökning – det gör att de känner sig förstådda och det stärker chattbottens roll som pedagog. Kunskaper i att formulera prompter, så kallad prompt engineering, är någonting som ofta lyfts i relation till användning av generativ AI. Denna studie visar dock att ungdomarna till stor del också använder sig av andra knep för att få de svar de vill ha, till exempel att ställa samma fråga i flera chattar. 

I ungdomarnas reflektioner över sin användning av ChatGPT framkommer att de tydligt skiljer på människa och maskin, någonting som exemplifieras i hur de beskriver sin tillit till chattbottens svar. Samtidigt visar både ungdomarnas reflektioner över sin användning och de prompter som analyserats inom studien på en framväxande tillit. När användare och chattbott tillsammans söker efter information suddas gränsen mellan det mänskliga och det teknologiska ut.

Andra studentuppsatser