AI - så funkar det

Hur tränas modellerna och på vilka källor?

Stora språkmodeller har tränats på en stor mängd människogenererat material – modellens träningsdata. Exakt vilka texter som har använts som träningsdata är inte alltid tydligt. Detta har, förutom att påverka vad verktygen kan, också skapat upphovsrättsliga och dataskyddsmässiga problem. Du kan du läsa mer om AI och etiska aspekter samt upphovsrätt längre ner på sidan.

Både de data olika AI-verktyg är tränade på och de data de har tillgång till skiljer sig åt. ChatGPT och Copilot är chattbottar som inte enbart genererar svar från vetenskapligt material. De skiljer sig från andra AI-sökverktyg, till exempel Elicit, Consensus och Scite, som är framtagna för att ge svar baserade på vetenskapliga publikationer som de också hänvisar till. Söker du vetenskaplig information är det därför rekommenderat att välja ett AI-sökverktyg som är framtaget specifikt för att söka vetenskapliga artiklar. Läs mer om att söka information med AI här. 

Hur fungerar de?

Stora språkmodeller är väldigt bra på att härma människors sätt att uttrycka sig. Svaren låter också ofta väldigt självsäkra, vilket ibland kallas “machine splaining” eller "AI-splaining". Därför är det viktigt att komma ihåg att stora språkmodeller inte har någon egen förståelse för vad som är sant eller falskt, eller ens för att det finns en yttre verklighet som ord kan överensstämma med. Ibland kallas stora språkmodeller för stokastiska papegojor; de är som papegojor som kan härma mänskligt tal, men de förstår inte vad de säger.

Stora språkmodeller är ofta sammankopplade med en databas eller sökmotor genom en teknik som kallas retrieval augmented generation (RAG). Det innebär att de ger referenser till riktiga källor. Men även om de alltid ger referenser till källor som faktiskt existerar kan kvaliteten på källorna skilja sig åt. 

AI-verktygen kan också ha sammanfattat källorna på ett felaktigt sätt. Eftersom en stor språkmodell inte kan förstå text, så kan den egentligen inte kan sammanfatta text; den har inte någon djupare förståelse för vad texten handlar om och vad i den som är väsentligt. När den försöker sammanfatta texter blir resultatet oftast bara en förkortning, där man inte kan lita på att det tagits bort varit oväsentligt och att det som blivit kvar faktiskt är kärnan i texten – eller ens att det ingick i den ursprungliga texten.

Både själva träningsdatan och hur de stora språkmodellerna fungerar gör att AI-verktygen kan reproducera faktafel, stereotyper eller snedvridning (bias). Svaren verktygen ger är heller inte reproducerbara; du kommer att få olika svar även om du använder samma prompt en gång till.

Här är en lista över olika AI-verktyg som du kan använda till olika saker. Observera att listan inte är fullständig och att du själv behöver ta ansvar för att du använder verktygen på ett för din uppgift tillbörligt sätt och även med etiska hänsyn. Du kan läsa mer om AI och etik längre ner. Verktygen fungerar på olika sätt, så du behöver sätta dig in i hur de fungerar, hur du skyddar dina data och inte inskränker upphovsrätten. 

Generella uppgifter (så kallade chattbottar/assistenter)

• ChatGPT
• Microsoft Copilot
  På KI har både studenter och anställda tillgång till Microsoft Copilot, som är en stor språkmodell likt ChatGPT. Använder du den när du är inloggad via ditt KI-inlogg är den text du matar in skyddad.
• Gemini
• DeepSeek

Skrivande (verktyg framtagna specifikt för att förbättra text)

• Instatext
• Grammarly
• Fler tips hittar du på sidan Skriva läsa och sammanfatta med AI

Programmering

• Github Copilot

Bildgenerering

• Dall-E
• Firefly
• Picsart

Ljudgenerering

• Notebook LM
• Soundraw  

Läsning

• Notebook LM
• Fler tips hittar du på sidan Skriva, läsa och sammanfatta med AI

Sökning av artiklar

• Elicit
• SciSpace
• Perplexity
• Fler tips hittar du på sidan Söka information med AI

Transkribering

• Whisper Web
• Onenote
• Klang.ai

Översättning 

• DeepL
• Google translate

Kodning av data 

• NVivo 

Generering av text, bild och ljud (så kallade multimodala modeller)

• Notebook LM

Några frågor att ställa dig själv:

• Känner du till verktygets begränsningar och vad det är lämpligt att användas till?
• Vem står bakom verktyget? (land, företag, information om träningsdata). Hur kan det påverka vilka svar du får?
• Vet du hur verktyget hanterar personuppgifter och andra data?
• Är dina data skyddade?
• Används dina data till att träna nya språkmodeller?
• Använder du AI på ett effektivt sätt, så att du inte slösar med resurser?
   

Bildgenererande AI

En form av generativ AI är den som genererar bilder. Beroende på vilka bilder som använts som träningsdata så kan de vara begränsade till en mycket specifik sorts bild, som porträttfoton av ansikten, eller så kan de ha en mycket bred repertoar av bildtyper som de kan generera. Oftast används textsträngar som prompt, men vissa har förmågan att även ta in en grov skiss av den önskade bilden och arbeta utifrån den.

AI-agent

Vissa sorters generativ AI kallas för AI-agenter eller agentisk AI. Ordet har ingen allmänt accepterad definition, men används i praktiken för att beskriva datorprogram, gjorda i något specifikt syfte, där användargränssnittet bygger på en stor språkmodell. Det syftet kan till exempel vara att boka biljetter eller utföra djupare sökningar.

Klassificerare

En typ av AI vars uppgift är att, givet någon typ av indata, bestämma om indatat tillhör en viss kategori eller ej. Ett medicinskt exempel är klassificerare för röntgenbilder för att identifiera de som har tecken på lungcancer.

Vektordatabaser

Vektordatabaser använder en relativt enkel metod för att genomföra sökningar, baserat på en språkmodell för att gruppera ord med likartad betydelse. På detta sätt blir sökresultatet mindre beroende av exakt vilket ord som användes, vilket löser ett vanligt problem med att söka i textdatabaser: att man som regel behöver använda precis rätt ord. Exempelvis går en text som innehåller ordet “eld” bara går att hitta med just ordet “eld” och inte med “brand”.

AI-detekterare

I många sammanhang är det otillåtet att lämna in material som genererats av en stor språkmodell. Skolor brukar till exempel inte tillåta AI-skrivna inlämningsuppgifter, och vetenskapliga tidskrifter vill som regel att allt bruk av AI redovisas. Det är dock mycket svårt att se till att dessa regler efterlevs, eftersom man inte alltid kan se på en text att den är AI-skriven. Därför finns det flera företag som marknadsför AI-detekterare, som utlovas kunna identifiera AI-skrivna texter. Vi har hittills inte testat någon AI-detekterare som varit tillräckligt pålitlig för att vara användbar.

Prediktiv AI

Ett vanligt användningsområde för olika typer av maskininlärning är att försöka förutsägelsa händelser i verkligheten, särskilt människors beteende. Till exempel har olika AI-verktyg använts för att förutsäga om studenter kommer att hoppa av sin utbildning, om dömde brottslingar kommer bli återfallsförbrytare och liknande. Ett genomgående problem med denna slags AI är att den oftast inte fungerar.