Lärväg · ca 20 minuter · inget konto behövs
Kan man lita på AI?
Varför en AI kan låta säker och ändå ha fel, vad träningen gör med svaren och hur spärrar fungerar. Med övningar i att avslöja påhittade svar.
Efteråt kan du förklara
- En AI kan låta säker och ändå ha fel. Tonen säger ingenting om sanningen.
- En assistent är tränad att ge svar som människor gillar, inte svar som garanterat stämmer.
- Spärrar minskar riskerna men är aldrig perfekta. Kontrollera det som är viktigt.
Steg 1 av 5 · ca 5 min · ur modulen Risker och säkerhet
Säker men fel
Se skillnaden mellan när modellen vet och när den gissar, och varför du inte ser den i texten.
Steg 2 av 5 · ca 4 min
Spela: Hallucinationsjakten
Avgör vilka svar som stämmer. Spela en bana, sedan går du vidare.
Steg 3 av 5 · ca 5 min · ur modulen Från förträning till assistent
Vad träningen gör med svaren
Assistenten är tränad på människors val. Vad betyder det för hur pålitlig den är?
Steg 4 av 5 · ca 4 min · ur modulen Risker och säkerhet
Spärrar och hur de luras
Hur stoppar man skadliga förfrågningar, och varför går det aldrig helt?
Steg 5 av 5 · ca 2 min
Testa dig själv
Sex frågor om det du sett. Fel svar förklaras.
Testa dig själv
6 frågor. Två om grunderna, en där du använder det du lärt dig och en där du förutsäger vad som händer.
Rätt svar: . Modellen väljer det som låter rimligast, även när den inte vet.
Rätt svar: . Osäkerheten finns i sannolikheterna, men syns inte i texten.
Rätt svar: . Påhittade källor är en vanlig sorts hallucination.
Rätt svar: . Riskvärdena överlappar, så en låg gräns träffar även ofarliga frågor.
Rätt svar: . Valen blir en belöning, och modellen dras mot svar som får hög belöning.
Rätt svar: . Ett självsäkert fel har samma form som ett rätt svar.
Klart! Nu vet du när du ska dubbelkolla.
Det här är de tre sakerna att komma ihåg:
- En AI kan låta säker och ändå ha fel. Tonen säger ingenting om sanningen.
- En assistent är tränad att ge svar som människor gillar, inte svar som garanterat stämmer.
- Spärrar minskar riskerna men är aldrig perfekta. Kontrollera det som är viktigt.
Ditt diplom
Skriv ut diplomet eller spara det som PDF. Namnet sparas bara på diplomet, ingen annanstans.