Den här lektionen ingår i abonnemanget. Logga in med BankID och skapa ert företags workspace.Logga in
Lektion 3 av 4 · 5 min
Snedvridning och bias
Varför AI ibland ger skeva svar om kön, ålder, yrken och kultur, hur det syns i små ord och hur du upptäcker och motverkar det.
Det här tar du med dig
- Modellen speglar texterna den har lärt sig av, skevheter också
- Det skeva syns i små ord: namn, roller och omdömen
- Det som saknas i en text är svårast att se
- Skeva texter påverkar vem som söker, går vidare och känner sig sedd
- Gör bytestestet, be om flera perspektiv och var tydlig i frågan
- Låt någon annan läsa det som handlar om människor
Begreppen
- Bias
- När en AI:s svar lutar åt ett håll för att texterna den har lärt sig av gör det, till exempel att chefer oftare blir män. På svenska kallas det också snedvridning.
- Stereotyp
- En förenklad bild av en grupp, som att ingenjörer är män eller att äldre har svårt för teknik. AI kan upprepa stereotyper som finns i texterna den har lärt sig av.
- Könsneutralt språk
- Formuleringar som inte förutsätter ett kön när könet inte spelar någon roll, som den sökande, medarbetaren eller du i stället för han eller hon.