Den här lektionen ingår i abonnemanget. Logga in med BankID och skapa ert företags workspace.Logga in
Lektion 4 av 5 · 5 min
Varför AI ibland har fel
Varför en AI-assistent ibland skriver trovärdiga svar som inte stämmer, vad en kunskapsgräns är och vilka små vanor som gör att du kan lita på det viktiga.
Det här tar du med dig
- En språkmodell skriver det troliga, som oftast men inte alltid är sant
- En hallucination låter lika säker som ett riktigt svar
- Felen sitter oftast i detaljer: namn, siffror, datum, källor, citat
- Det som hänt efter kunskapsgränsen kan saknas
- Fråga dig hur illa ett fel vore, och kontrollera därefter
- Ge modellen texten att stå på, och kontrollera i originalet
Begreppen
- Hallucination
- När en AI skriver något som låter helt trovärdigt men inte stämmer, som en bok, en källa eller en siffra som inte finns.
- Kunskapsgräns
- Tidpunkten då modellens träningsdata tar slut. Det som hänt efter den känner modellen inte till, om den inte får söka på webben eller läsa en text du ger den.