När sammanfattningen tappar uppdraget
En agent är ett program som använder en språkmodell för att läsa, planera och utföra steg. En underagent är en extra agent som huvudagenten startar för ett deluppdrag, så att huvudagentens sammanhang kan hållas litet. Sammanhang, ofta kallat kontext, är all text modellen ser just nu: instruktioner, tidigare meddelanden och det som redan gjorts. Vanligen startar underagenten från en sammanfattning, en kort text om vad huvudagenten tror att jobbet är. Den ser aldrig samtalet bakom texten.
Det syntes när en agent skulle ta reda på om ett eget verktyg gjorde samma sak som funktioner hos Anthropic och OpenAI, och låta en underagent undersöka saken. Sammanfattningen bad underagenten granska det egna verktyget och nämnde varken Anthropic eller OpenAI. Tillbaka kom en noggrann rapport om den egna koden. Huvudagenten hade hela frågan framför sig och tappade ändå den del som avgjorde om arbetet var meningsfullt. Underagenten protesterade inte, eftersom den korta texten såg komplett ut. Alexander Yue har beskrivit samma mönster. I ett test blev huvudagenten både snabbare och billigare när den gjorde uppgiften själv än när samma uppgift gick till en underagent via en sammanfattning.
Förgrening eller nystart
Ett annat sätt kallas förgrening, på engelska fork. Underagenten får då en kopia av hela samtalet plus en not om sin del av jobbet. Codex och Claude Code, två verktyg där en agent skriver och kör kod, låter modellen välja mellan en färsk underagent och en förgrening. En färsk underagent med en kort sammanfattning slipper en lång historia som ofta är irrelevant och kan hålla skarpare fokus, men den saknar lätt sådant som redan sagts, rättats eller valts bort. En förgrening tar mer text att läsa, men den vet vad som frågats, vad som rättats och vilka vägar som lagts åt sidan. Första gången läste den nya agenten sista meddelandet, en begäran om en förgrening, och startade därför en ny förgrening inuti den första. Den började också beta av förälderns att-göra-lista. Därför får varje barn en not: barnet är förgreningen, begäran är redan hanterad, och noten pekar ut dess del.
Därför valet blir fel
Själva förgreningen var den lätta delen. Det svåra var att få agenten att välja utan att en människa sitter med varje gång. Regeln löd: behöver arbetaren göra omdömen som beror på samtalet, använd en förgrening. Ska den bara utföra beslut som redan är fattade räcker en sammanfattning. I instruktionerna förgrenade agenten nästan aldrig. När den pressades att förgrena oftare lämnade den hela projektet till en färsk underagent och bad den dela ut förgreningarna. Helheten finns i samtalet, som den nya samordnaren saknade, och eftersom den inte gör arbetet själv blev det varken skarpare fokus eller mer arbete gjort samtidigt.
Samma agent skickade sedan tre planeringsjobb till färska underagenter och kallade dem smala kodgranskningar, eftersom varje jobb bara rörde några filer. En plan består mest av beslut: vilken väg som ska tas, vilka som redan ratats och vad funktionen är till för. Inget av det står i koden. Agenten såg några filer och behandlade jobben som mekaniskt arbete, eftersom storlek är lätt att se och omdöme är svårt. Lappar i instruktionerna gjorde det värre. Varje lapp var rimlig för sig, till exempel förgrena mer, förgrena inte allt, och räkna planering som omdöme. Tillsammans motsade de varandra, och ett tag förgrenades även enkla mekaniska jobb.
Hela högen togs bort och ersattes med ett stycke. Arbete som behöver en samlad bild av avsikt, beslut, rättelser och hur delarna hänger ihop mår oftast bra av en förgrening. Litet, mekaniskt och väl avgränsat arbete mår bra av en färsk uppgifts smalare sammanhang. Stor vikt ska läggas vid vad en sammanfattning kan tappa. Ett smalt uppdrag eller en prydlig sammanfattning bevisar inte att arbetaren har tillräckligt sammanhang. Agenten har redan hela samtalet framför sig, så det är svårt att se vad en färsk agent skulle sakna. En användbar sammanfattning kräver att man låtsas börja utan den kunskapen. Det kallas theory of mind, förmågan att föreställa sig vad någon annan inte vet. Språkmodeller är särskilt svaga där, och en prydlig sammanfattning kan se komplett ut just för att avsändarens eget sammanhang fyller i luckorna.
En gallrad kopia
En full förgrening ärver också misslyckade kommandon, råa loggar och sidospår. Modeller blir sämre när sammanhanget växer, så en lång och mestadels irrelevant historia gör arbetaren mindre fokuserad. En smart förgrening behåller behövda delar och släpper resten, utan att skriva om historiken. Varje bit får ett ja eller nej från en modell av typen System One, som svarar på korta frågor i stället för att skriva löpande text. Jev är ett sådant verktyg och kan ställa många frågor samtidigt. Oskar Austegards färdighet delegating-with-context för Claude Code lägger Jev-valda bitar ur föräldrasamtalet sist i en färsk underagents uppdrag. I en utvärdering bar bitarna med sig nästan lika många behövda fakta som hela utskriften, med klart mindre text, medan en skriven sammanfattning tappade fler. Tillägg till kodagenten pi gallrar ett pågående samtal på samma sätt. I det egna försöket stannar bitar som beslutsmodellen är osäker på, och det som blir kvar behåller originalorden. Besluten körs med Cloudflares Clef via Ollama Cloud, i ett litet tillägg till oh-my-pi. Det är inte avgjort om det håller på sikt. Underagenter fungerar när arbetaren får det sammanhang som gjorde uppgiften begriplig. Agenten måste föreställa sig vad arbetaren på andra sidan inte kommer att veta.
Prova själv
- Öppna en ny chatt och klistra bara in en kort beskrivning av en uppgift som redan diskuterats. Ställ samma uppgift i den ursprungliga chatten och se om den nya missar ett villkor, ett nej eller ett syfte.
- När uppdraget kräver ett val, klistra in meddelandena där valet, rättelserna och syftet står, i stället för att be agenten sammanfatta och skicka vidare.
- När beslutet redan är fattat och jobbet är mekaniskt, skriv beslutet, stegen och hur resultatet ska se ut. Då räcker en kort instruktion i en ny chatt.
Källa: nikvdp.com
Texten är skriven med hjälp av AI utifrån källan ovan och granskad innan publicering. Hittar du ett fel? Skriv i forumet.
