AI som gör saker

Vad skiljer en agent från en vanlig chatt?

Rätt svar: Agenten får ett mål och tar själv flera steg med verktyg. I en chatt driver du samtalet en fråga i taget. En agent driver arbetet själv.

Vanliga missförstånd: ”Agenten har en större språkmodell” – Samma modell kan användas i en chatt och i en agent. Skillnaden är mål, verktyg och loopen. ”Agenten kan inte göra fel” – Agenter gör också fel, och felen kan få större följder eftersom agenten agerar.

Vad är återkoppling för en agent?

Rätt svar: Resultatet av ett steg, som agenten läser innan den väljer nästa. Det är ”observera” i loopen: tänk, agera, observera.

Vanliga missförstånd: ”Betyg som användaren ger efteråt” – Det är återkoppling för träning. I loopen är det resultatet av agentens egna steg. ”En lista med alla steg, bestämd i förväg” – En agent följer ingen färdig lista. Den väljer nästa steg utifrån resultatet.

En agent ska rensa din inkorg. Vilket steg bör kräva ditt godkännande?

Rätt svar: Att radera mejl för gott. Det går inte att ångra. Sådana steg är värda en kontroll.

Vanliga missförstånd: ”Att flytta mejl till mappar” – Det går lätt att ångra. Godkännande behövs mest för det som inte går att ta tillbaka. ”Att läsa ämnesraderna” – Att läsa ändrar ingenting och kan göras utan kontroll.

Slå på felet så att rummet är upptaget. Vad gör agenten?

Rätt svar: Ser resultatet och gör en ny plan. Agenten läser resultatet av varje steg och anpassar planen.

Vanliga missförstånd: ”Slutar och väntar på nya instruktioner” – Den kan fortsätta själv med en ny plan. Den stannar och frågar inför steg som inte går att ångra. ”Bokar rummet ändå” – Agenten läser resultatet av varje steg. Den ser att rummet är upptaget.

Vad vinner man på att låta flera agenter dela på en uppgift?

Rätt svar: De kan göra olika delar samtidigt. Uppdelningen går fortare, men varje del kan också bli fel.

Vanliga missförstånd: ”Det blir alltid billigare” – Fler agenter kostar mer beräkning. Det man främst vinner är tid. ”Fler agenter gör aldrig fel” – Varje agent kan göra fel, och med många delar blir det troligt att något blir fel.

Varför missar en granskande agent ibland samma fel som den första?

Rätt svar: Den är samma sorts modell och har samma blinda fläckar. Det som kräver omdöme missar båda, eftersom de tänker likadant.

Vanliga missförstånd: ”Den hinner bara läsa hälften” – Den går igenom allt. Problemet är att den ser samma saker som den första. ”Den granskar för snabbt” – Det handlar inte om fart utan om att den tänker likadant.

Agenter skriver underlag för ett beslut om en skolas budget. Vad är klokast?

Rätt svar: Låt en människa granska innan underlaget används. Mycket står på spel, och en människa ser andra saker än agenterna.

Vanliga missförstånd: ”Lita på det, agenterna har granskat sig själva” – Granskning mellan agenter hittar slarvfel men sällan fel som kräver omdöme. ”Låt fler agenter granska och hoppa över människan” – Fler granskare av samma sort hittar samma saker. De blinda fläckarna finns kvar.

Du slår av all granskning. Vad händer med antalet fel som blir kvar?

Rätt svar: Det ökar. Utan granskning är det ingen som hittar felen.

Vanliga missförstånd: ”Det minskar, eftersom det går fortare” – Det går fortare, men felen finns kvar. ”Det blir noll” – Agenterna gör fortfarande fel. Utan granskning upptäcks de bara inte.