Verktyg

En språkmodell skriver det som låter troligt. Det fungerar bra för språk, men sämre för exakta uträkningar, och den kan inte veta något som hänt efter träningen, till exempel dagens väder.

Därför får många modeller verktyg: en miniräknare, en sökmotor, en kalender. Modellen får en kort beskrivning av varje verktyg. När den behöver ett skriver den ett anrop, alltså text som säger vilket verktyg och vad det ska få. Programmet runt modellen känner igen anropet, kör verktyget och lägger in resultatet i samtalet. Sedan fortsätter modellen och skriver sitt svar med resultatet framför sig.

Modellen väljer själv om ett verktyg behövs, och ibland behövs flera anrop i rad. Det är samma idé som gör en agent möjlig. Svaret blir aldrig bättre än verktyget: får modellen fel resultat tillbaka kan svaret bli fel ändå.

Filmen visar

• Varför en modell utan verktyg kan svara fel på en uträkning.
• Hur ett anrop går från modellen till programmet och verktyget, och hur resultatet kommer tillbaka.
• Att modellen väljer själv när ett verktyg behövs.
• Vad som händer när verktyget saknas.

Du provar själv

Välj fråga och vilka verktyg modellen får. Stega igenom anrop, resultat och svar.

Vad vi förenklar här

• Vädret i modulen är påhittat.
• Riktiga anrop skrivs i ett bestämt format, ofta JSON, och programmet kontrollerar dem innan något körs.
• Det felaktiga svaret utan miniräknare är ett exempel. Stora modeller räknar ofta rätt på enkla tal, men kan ta fel på långa uträkningar.
• Utan verktyg säger modellen här att den inte vet. Ibland gissar den i stället.