Lektion 1 av 4 · 2 min

När AI hittar på

Varför en AI-assistent ibland hittar på källor, siffror och citat, varför svaret ändå låter säkert, och vad kursen lär dig göra åt det.

Det här tar du med dig

En påhittad källa ser riktig ut tills du letar upp den
Modellen skriver det som troligen passar, inte det den slagit upp
Felen sitter oftast i detaljerna: källor, siffror, namn och citat
En säker ton säger inget om att svaret stämmer
Sök upp källan innan du använder den

Begreppen

Påhittad källa: En hänvisning som ser riktig ut, med titel, årtal och sidnummer, men som inte finns. Den avslöjas först när du letar upp den.
Säker ton: Att ett svar låter bestämt och välskrivet. Hos en AI säger tonen ingenting om svaret stämmer, eftersom modellen ofta skriver lika säkert när den gissar.

Övning

Leta upp källornaBe en AI-assistent som ni får använda på jobbet om tre rapporter eller artiklar inom ditt område, med titel och årtal. Sök sedan upp var och en. Notera vilka som finns, vilka som inte gör det och om svaret lät lika säkert i alla tre fallen.

Frågor

Logga in med BankID för att svara på frågorna och spara hur långt du kommit.

Läs filmens text

Tänk dig att det är fredag eftermiddag. Rapporten ska iväg före fem, och det saknas bara en källa.
Du frågar AI-assistenten, och svaret kommer direkt: en rapport, med titel, årtal och till och med sidnummer.
Rapporten om möten i arbetslivet, var finns den?
Ingenstans. Den har aldrig funnits.
Du har kanske hört ordet hallucination. Så här kan det se ut på jobbet.
Det du just såg var en påhittad källa. Den ser ut precis som en riktig, och avslöjas först när du letar upp den.
Varför händer det? En språkmodell skriver det som troligen passar, ett ord i taget.
Den har läst mängder av källhänvisningar och vet precis hur en sådan brukar se ut.
Så den kan skriva en som ser helt rätt ut, med ett årtal som låter rimligt, fast ingen sådan rapport finns.
Den har alltså inte slagit upp rapporten. Den har skrivit något som passar in.
Det gäller oftast detaljerna: källor, siffror, namn och citat.
Sådant kan låta exakt och ändå vara fel.
En siffra med decimaler, ett citat från en chef, en paragraf i en lag. Just sådant hamnar i rapporter, mejl och beslut.
Lägg också märke till tonen. Svaret tvekar inte en sekund.
Det kallas säker ton: svaret låter bestämt och välskrivet, oavsett om det stämmer.
En kollega som är osäker brukar säga det. En AI skriver ofta lika säkert när den gissar som när den har rätt.
Tonen är alltså ingen kontroll. Den säger bara hur svaret är skrivet.
Det här händer också proffs.
Två tusen tjugotre hänvisade två advokater i New York till flera rättsfall inför en domstol.
Ingen kunde hitta rättsfallen. En AI-assistent hade hittat på dem, och advokaterna fick böter.
Betyder det att du ska misstro allt? Nej. Oftast är AI till stor hjälp.
Det du behöver är en vana: att veta vad du ska kontrollera, och när det är värt besväret.
Ett första steg kan du ta redan i dag: när ett svar har en källa, sök upp den innan du använder den. Det tar oftast bara en minut.
Resten av vanan får du i den här kursen, i tre lektioner på runt fem minuter.
Först fakta och källor: vad du kontrollerar, och var du hittar originalet.
Sedan snedvridning: när ett svar lutar åt ett håll, och hur du ser det.
Och sist: när du kan lita på svaret, och hur noga du behöver vara.
Vi ses i nästa lektion, där vi börjar med fakta och källor.

Kontrollera fakta och källor