Hur skriver en chattbot?

Vad har en språkmodell tränats att göra?

Rätt svar: Gissa nästa token i en text. Allt annat den klarar bygger på att gissa nästa bit text väldigt bra.

Vanliga missförstånd: ”Följa regler som programmerare skrivit för varje fråga” – Ingen har skrivit regler för varje fråga. Modellen har lärt sig mönster ur text. ”Slå upp svaret i en databas” – Själva modellen slår inte upp något. Svaret växer fram en token i taget.

Varför kan samma fråga ge olika svar?

Rätt svar: Nästa token väljs med lite slump bland de troliga. Modellen ger sannolikheter, och valet görs med slump. Samma slumpfrö ger samma text.

Vanliga missförstånd: ”Modellen lär sig något nytt mellan gångerna” – Modellen ändras inte när du använder den. Skillnaden kommer från slumpen. ”Den läser in nya texter från internet varje gång” – Variationen kommer från slumpen i valet av nästa token, inte från nya texter.

Du vill ha en sammanfattning som blir likadan varje gång. Vilken temperatur väljer du?

Rätt svar: Låg temperatur. Låg temperatur väljer nästan alltid det troligaste, så svaren blir förutsägbara.

Vanliga missförstånd: ”Hög temperatur” – Hög temperatur ger mer variation, alltså mindre likadana svar. ”Det spelar ingen roll” – Temperaturen styr just hur mycket slump som får vara med.

Du drar temperaturen till max. Hur ändras texten?

Rätt svar: Den blir mer slumpmässig och tappar snart tråden. Även osannolika ord väljs ofta, och då hänger texten inte ihop.

Vanliga missförstånd: ”Den blir kortare” – Längden styrs av hur många ord du väljer, inte av temperaturen. ”Den blir mer korrekt” – Mer slump gör inte texten mer korrekt, snarare tvärtom.

Vad kan en modell direkt efter förträningen?

Rätt svar: Fortsätta en text. Ställer man en fråga kan den lika gärna svara med fler frågor, som i ett forum.

Vanliga missförstånd: ”Svara hjälpsamt på frågor” – Det kommer först med finjusteringen. ”Ingenting, den är bara slumpmässig” – Den har lärt sig mycket om språk, men bara att fortsätta text.

Vad lär sig modellen av människors jämförelser mellan svar?

Rätt svar: Vilka sorters svar människor föredrar. Valen blir en belöning, och modellen dras mot svar som får hög belöning.

Vanliga missförstånd: ”Nya fakta som saknades” – Jämförelserna lär ut vilken sorts svar som uppskattas, inte nya fakta. ”Vad som är sant” – Människor väljer det de föredrar. Ett övertygande fel kan också få höga betyg.

En finjusterad modell svarar självsäkert men fel. Vad i träningen kan förklara det?

Rätt svar: Den har lärt sig hur ett svar ser ut, inte vad som är rätt. Ett självsäkert fel har samma form som ett rätt svar.

Vanliga missförstånd: ”Den har glömt allt från förträningen” – Den minns det mesta. Problemet är att den svarar lika säkert när den inte vet. ”Den har slutat gissa nästa token” – Den gissar fortfarande nästa token. Det är så den skriver alla svar.

Du lägger till fler jämförelser där människor väljer det hjälpsamma svaret. Vad händer med sannolikheterna?

Rätt svar: Hjälpsamma svar blir troligare på alla frågor. Belöningen gäller sorten av svar, så den följer med till nya frågor.

Vanliga missförstånd: ”Alla svar blir lika troliga” – Jämförelserna flyttar sannolikheten mot det som väljs. De jämnar inte ut den. ”Bara frågan du jämförde ändras” – Modellen lär sig sorten av svar, inte ett svar per fråga.