I takt med att AI-verktyg som ChatGPT, Claude och Gemini blivit vardagsmat har allt mer text på nätet helt eller delvis skapats av AI. Det har väckt en naturlig fråga: går det att avgöra om en text är skriven av en människa eller en maskin?
Svaret är mer nyanserat än man kan tro. I den här guiden går vi igenom hur så kallade AI-detektorer fungerar, varför de är långt ifrån vattentäta, och hur du bör tolka deras resultat.
Kan man ”upptäcka” AI-text?
Det första och viktigaste att förstå är att man inte kan avgöra med säkerhet om en text är AI-skriven. En AI-detektor kan bara uppskatta sannolikheten för att hela eller delar av en text har skapats av AI.
Det innebär att inget verktyg kan säga ”den här texten är skriven av AI” med hundraprocentig visshet. De ger en gissning uttryckt i procent, och den gissningen kan vara fel åt båda hållen: den kan missa AI-text och den kan felaktigt peka ut en människas text som AI-genererad. Den distinktionen är avgörande för hur resultaten bör användas.
Hur skapar en AI text?
För att förstå hur detektorerna arbetar hjälper det att först veta hur AI-texten skapas, eftersom det är just detta detektorerna försöker känna igen.
Verktyg som ChatGPT bygger på så kallade språkmodeller. De tränas på enorma mängder text och lär sig mönster för vilka ord som statistiskt sett brukar följa på varandra. När du ger modellen en instruktion genererar den text genom att, förenklat, gång på gång förutsäga nästa sannolika ord. Resultatet blir ofta språkligt korrekt och flytande, men också jämnare och mer förutsägbart än mänskligt skrivande, vilket är precis den egenskapen detektorerna letar efter.
Hur fungerar AI-detektorer?
AI-detektorer använder maskininlärning och språkanalys för att bedöma hur ”AI-lik” en text är. De letar efter statistiska fingeravtryck i skrivandet snarare än att läsa och förstå innehållet som en människa gör.
De två vanligaste signalerna är förutsägbarhet (på engelska perplexity), alltså hur lätt nästa ord går att gissa, och variation (burstiness), alltså hur mycket meningarnas längd och struktur skiftar. AI-text tenderar att vara jämn och förutsägbar, medan mänskligt skrivande varierar mer oregelbundet. Vissa verktyg jämför också texten mot stora databaser av känd AI-text. Ju mer texten liknar de mönster verktyget tränats på, desto högre sannolikhet för AI anger det.
Varför detektorerna är opålitliga
Här kommer den viktigaste delen, och den som ofta glöms bort: AI-detektorer är i praktiken ganska opålitliga, och man bör vara mycket försiktig med att lita på dem.
Leverantörerna anger ofta träffsäkerheter på 98–99 procent, men de siffrorna gäller idealfall med ren, oredigerad AI-text mot polerad mänsklig text. Oberoende studier visar att träffsäkerheten i verkligheten snarare ligger på 60–80 procent, och att den sjunker kraftigt så snart AI-texten redigeras eller skrivs om för hand. Även enkel omformulering kan lura de flesta verktyg.
Ett tydligt bevis på svårigheterna är att OpenAI, företaget bakom ChatGPT, lanserade ett eget detekteringsverktyg i början av 2023 men lade ner det redan i juli samma år, med hänvisning till för låg träffsäkerhet. Verktyget identifierade korrekt AI-text i bara omkring en fjärdedel av fallen. Att inte ens skaparen av de mest använda modellerna kunde bygga en pålitlig detektor säger mycket.
Falska utslag och partiskhet
Den allvarligaste svagheten är de så kallade falska positiva utslagen, alltså när en människas text felaktigt pekas ut som AI-skriven.
Forskning, bland annat från Stanford, har visat att detektorerna är partiska mot personer som skriver på ett andraspråk. Eftersom sådan text ofta använder enklare och mer förutsägbart språk liknar den statistiskt sett AI-text, och flaggas därför oftare felaktigt. Detta har fått allvarliga konsekvenser i utbildningsvärlden, där studenter felaktigt anklagats för fusk, och flera universitet har som följd slutat använda AI-detektorer helt.
Så bör du använda AI-detektorer
Betyder allt detta att verktygen är värdelösa? Inte nödvändigtvis, men de bör användas med stor eftertanke och aldrig som ensamt bevis.
En rimlig hållning är att se ett detektorutslag som en indikation som kan vara värd att undersöka vidare, inte som ett facit. Använd aldrig ett utslag som enda grund för att anklaga någon för att ha använt AI, och var särskilt försiktig i sammanhang med höga insatser, som betygsättning eller anställning. Ju längre text du matar in, desto mer att gå på får verktyget, men osäkerheten finns alltid kvar. Kombinera hellre verktyget med din egen bedömning och kunskap om sammanhanget.
Spelar det ens någon roll?
Slutligen är det värt att lyfta blicken. Frågan om en text är AI-skriven är inte alltid den mest relevanta.
Bra innehåll är bra innehåll, oavsett hur det tagits fram, och dåligt innehåll blir inte bättre för att en människa skrivit det. Google har också klargjort att företaget inte bestraffar AI-innehåll i sig, utan riktar in sig på innehåll av låg kvalitet och spam oavsett ursprung. Det som avgör är alltså om texten är korrekt, användbar och tillförlitlig, inte i första hand vem eller vad som höll i pennan.
Relaterat innehåll på Mjukvara.se
Vill du läsa mer om AI och digital kompetens? Se vår guide om vad ChatGPT är, våra tips om källkritik på nätet, samt guiden om plagiatkontroll. Är du nyfiken på bildskapande AI kan du också läsa om att skapa bilder med AI.
Vanliga frågor om att upptäcka AI-text
Kan man med säkerhet se om en text är skriven av AI?
Nej. AI-detektorer kan bara uppskatta sannolikheten att en text är AI-genererad, aldrig avgöra det med säkerhet. Resultaten bör därför tolkas som en indikation, inte ett bevis.
Är AI-detektorer pålitliga?
Bara i begränsad utsträckning. Leverantörernas höga träffsäkerhetssiffror gäller idealfall; i verkligheten är de betydligt lägre, och verktygen luras lätt av redigerad text. De ger dessutom falska utslag.
Varför flaggas min egen text som AI?
Falska positiva utslag är vanliga, särskilt för text som är enkelt eller förutsägbart skriven. Personer som skriver på ett andraspråk drabbas oftare, eftersom deras språk statistiskt kan likna AI-text.
Finns det något gratis verktyg för att upptäcka AI-text?
Det finns flera gratis och betalda detektorer på marknaden. Tänk dock på att inget av dem är tillförlitligt nog att användas som ensamt bevis, oavsett pris.
Straffar Google AI-skrivet innehåll?
Nej, inte i sig. Google har klargjort att man riktar in sig på innehåll av låg kvalitet och spam oavsett om det skrivits av en människa eller en AI. Fokus ligger på kvalitet och användbarhet.