Allison Faix och Samantha Duncan från Coastal Carolina University diskuterar de steg som forskare kan vidta för att säkerställa att informationen som samlas in av AI är korrekt.
Nästan 25 st vuxna i USA använder artificiell intelligens chatbots på daglig basis, fann en studie från Pew Research Center från 2026.
Samtidigt fann en annan ny studie att 48 st av informationen som populära gratis chatbots gav som svar på frågor om nyheterna innehöll fel.
Som bibliotekarier, vi vet att om studenter använder AI-chatbotar för att hjälpa till med sin akademiska forskning, ska de inte anta att informationen de får är korrekt.
Inte all AI är densamma. Här är fyra steg som vi rekommenderar för att ifrågasätta information som AI genererar, inklusive genom att kontrollera den ursprungliga källan och överväga problem som inte alltid är lätta att upptäcka.
Hitta den bästa passformen
För det första tycker vi att det är vettigt att lägga tid på att välja rätt AI-verktyg för uppgiften.
AI-verktyg, vare sig det är ExLibris Primo Research Assistant, Research Solutions’ Scite, Antropics Claude eller OpenAI:s ChatGPTtränas med olika datamängder och använder olika algoritmer för att generera resultat. De bör inte användas omväxlande.
Vissa verktyg kan vara bättre eller sämre på att svara på specifika typer av frågor, och typer av svar de genererar kan variera.
Människor kan välja ChatGPTtill exempel i början av sin forskningsprocess, eftersom det kan ge översikter och sammanfattningar för att hjälpa till med att förstå begrepp.
I efterföljande steg kan de välja ett verktyg som t.ex Primo forskningsassistent eller Scopus AI, som kan hjälpa hitta och undersöka peer-reviewed forskning som har granskats av akademiker.
Studenter som bedriver akademisk forskning kan också se om deras bibliotek prenumererar på ett verktyg för artificiell intelligens som LeapSpace eller konsensussom hämtar sina data från peer-reviewed, vetenskaplig forskning.
Att använda dessa specifika AI-verktyg eliminerar inte behovet av att utvärdera deras svar, men det ger mer säkerhet att data har gått igenom en granskningsprocess.
Verktyg som Anthropics Claude kan under tiden också hämta från akademisk forskning, men i vilken utsträckning är oklart. Enligt Anthropic uppger Claude att den är utbildad i en proprietär blandning av allmänt tillgänglig information från onlinekällor, offentliga och privata datauppsättningar, användardata och syntetiska data som genereras av andra modeller.
Slutligen kan det vara till hjälp att läsa bibliotekariernas recensioner om AI-verktyg för att välja den bästa passformen. Människor kan också göra ett enkelt onlinetest som t.ex ROBOT för att hjälpa dem att överväga vilket verktyg de ska använda.
Ställ fler frågor
För det andra är att ställa uppföljningsfrågor en viktig del av att utvärdera svaren som AI-verktyg genererar. Även om svaret ett AI-verktyg ger låter bra är det bra att ta sig tid att lära sig mer om det.
Att kontrollera sina egna känslor är också viktigt, eftersom AI-chatbotar har varit kända för att smickra användare genom att ge svar baserat på användarens egna fördomareller vad användaren vill hörasnarare än bara fakta.
Be AI:n berätta var den fick informationen, hur säker den är på att svaret är korrekt och vad som kan saknas. Fråga AI:n varför den tror att svaret är korrekt, eller be den förklara hur den kom fram till ett svar.
Det är bra att också se till att din uppmaning är formulerad på ett neutralt sätt. Till exempel att fråga ”Vad säger psykologisk forskning om sociala medier och ångest?” snarare än ”Berätta för mig varför sociala medier orsakar ångest” kan ge olika svar.
Kontrollera källan
För det tredje är det användbart att spåra alla anspråk som AI-chatboten gör till sina ursprungliga källor.
Studenter kan vara bekanta med att använda SIFT-process att utvärdera webbplatser. Denna process ber folk att sluta, undersöka källan, hitta bättre täckning och spåra anspråk på sin ursprungliga källa.
Börja med att be chatboten att citera sina källor, om den inte redan gjort det.
Gå sedan till varje källa och läs tillräckligt för att ta reda på om AI:n använder informationen i rätt sammanhang. Titta också på vem som skrev källan och om de har expertis i ämnet. Om AI:n inte kommer att citera källorna den använde, eller om källorna den citerar inte innehåller den information som den sa att de gjorde, dra ut alla påståenden den gör och gör ytterligare forskning.
Kan du hitta andra, trovärdiga källor som backar upp vad AI säger, med hjälp av Google eller en biblioteksdatabas? Kan du ta reda på var AI kan ha fått informationen och om den källan är trovärdig?
Om detta verkar vara mycket jobb, kan du alltid gå direkt till bibliotekets databaser istället för att använda AI-verktyg.
Alla problem är inte lätta att upptäcka
För det fjärde finns det andra, mindre synliga problem som kan spela ut när du använder AI-verktyg.
Till exempel kanske det inte alltid är lätt att avgöra om ett AI-verktyg saknar viktiga perspektiv eller ger partisk information.
Kom ihåg att du, inte AI-verktyget, är forskaren. Det kan vara lätt att lita på ett AI-verktyg för att generera en sammanfattning av viktiga källor, men att själv bestämma vilka källor du ska använda hjälper dig att lära dig mer om ett ämne.
Forskning visar att de flesta AI-verktyg fokuserar på källor som webbplatser, internetforum och annat onlineinnehåll som är fritt tillgängligt och skrivet på engelska. Fundera på vilken expertkunskap som kan saknas i AI-datauppsättningar och sök efter dessa synpunkter när det behövs.
Slutligen, kom ihåg att du måste citera AI-verktyget du använde om du citerar eller parafraserar text som genereras av det i ditt arbete, precis som du skulle citera vilken annan källa som helst.
Artificiell intelligens håller på att förändras snabb. Som bibliotekarier tycker vi att det är viktigt att kontinuerligt utvärdera om de verktyg du använder fortfarande fungerar för dig.
Dessa tips är ett bra ställe att börja för att vässa dina utvärderingsförmåga.
Av Allison Faix och Samantha Duncan
Allison Faix är instruktionskoordinator på Kimbel Library kl Coastal Carolina University. Hennes arbete fokuserar på informationskompetens, källutvärdering, desinformation och att lära studenter hur man bedömer information online. Hon har publicerat och presenterat metoder för att utvärdera källor, inklusive SIFT-metoden och ACRL-ramverket för informationskunnighet, och mer nyligen om utvärdering av generativ AI-utdata. Hon har också varit yrkesverksam inom akademiskt bibliotekarie och har bidragit till forsknings- och undervisningsinsatser vid Coastal Carolina.
Samantha Duncan är en instruktionsdesignbibliotekarie på Coastal Carolina University Universitetsbibliotek. Hennes arbete fokuserar på instruktionsdesign, digitalt lärande och användningen av framväxande teknologier i högre utbildning. Innan hon började på Coastal Carolina arbetade hon på McMaster University, där hon bidrog till Beyond the Exam, ett projekt som utforskade mer flexibla och autentiska metoder för onlinebedömning.
