Den här lektionen ingår i abonnemanget. Logga in med BankID och skapa ert företags workspace.Logga in
Lektion 3 av 5 · 5 min
Språkmodeller och tokens
Hur en språkmodell tränas på text och skriver ett ord i taget, vad tokens är och vad kontextfönstret betyder när du använder en AI-assistent.
Det här tar du med dig
- En språkmodell tränas genom att gissa nästa ord i enorma textmängder
- Texten är sitt eget facit, och modellen lär sig språkets mönster
- Svaret skrivs ett ord i taget, med lite slump
- Ett säkert tonfall betyder inte att modellen vet
- Modellen räknar i tokens, bitar av ord
- Kontextfönstret är allt modellen ser, och det har en gräns
Begreppen
- Språkmodell
- En AI som har tränats på enorma mängder text genom att gissa nästa ord, och som skriver på samma sätt, ett ord i taget. Kallas ibland stor språkmodell eller LLM.
- Token
- En bit av ett ord som en språkmodell räknar med. Ett kort, vanligt ord är ofta en token, ett långt ord blir flera. Hur mycket text du får skicka mäts i tokens.
- Kontextfönster
- Allt en språkmodell kan se på en gång: din fråga, samtalet hittills och det du klistrat in eller bifogat. Det är stort men inte oändligt.