Wpis LangChain Plan-and-Execute Agents (13 lutego 2024) łączy planistę, który pisze wieloetapowy plan, z wykonawcami, z których każdy bierze jeden krok i wywołuje narzędzia; prompt ponownego planowania decyduje potem, czy odpowiedzieć, czy zaplanować od nowa. Jego argument przeciw agentowi ReAct: szybsze działanie, bo duży model nie jest pytany po każdej akcji, i tańsze podzadania na mniejszych modelach. Pomysł wywodzi się z promptowania Plan-and-Solve (ACL 2023).
Plan to proponowana trasa, a nie pozwolenie dla wykonawcy, by szedł dalej po tym, jak świat się zmienił.
Co tworzy planista?
Kroki, każdy z zamierzonym wynikiem, potrzebnymi danymi wejściowymi i warunkiem, który mówi, kiedy jest gotowy. Plan powinien być widocznym stanem, a nie prozą w prompcie, żeby dało się go sprawdzić, zanim cokolwiek ruszy, i wznowić po przerwie. Planista odpowiada za kolejność, a wykonawca za dowody dla każdego kroku. Wzorzec orchestrator-worker dzieli pracę podobnie przy zadaniach równoległych, a agent nadzorujący kieruje dynamicznie, gdy kolejny wykonawca zależy od tego, co wróciło.
Jak wykonawca pozostaje w granicach i kiedy planuje od nowa?
Wykonawca dostaje jeden krok, narzędzia do niego i wynik, który musi zwrócić. Nie redefiniuje celu i nie przeskakuje do przodu. Zwraca rezultat, dowody i status (ukończony, zablokowany, wymaga zatwierdzenia), więc zły rezultat to problem wykonania, a zły krok to problem planowania. Planuj od nowa na podstawie zaobserwowanego stanu, gdy zawiedzie warunek wstępny albo narzędzie zwróci coś nieoczekiwanego, a nigdy na podstawie pewności modelu. Najmniejsze użyteczne ponowne planowanie to często jeden zmieniony krok, a nie nowy plan. Przechowuj plan i dowody kroków w trwałym wykonaniu, żeby ponowienie nie powtórzyło akcji, a kontrolę oddawaj przez jawne przekazanie agenta.
Jak używamy wzorca planner-executor w Soba Labs?
Większość naszej pracy z agentami to najpierw plan, potem wykonanie, i plan sprawdzamy, zanim jakikolwiek wykonawca na jego podstawie zadziała:
- Drugi agent recenzuje każdy plan, zanim zrobi to człowiek. W jednym sprincie klienta specyfikacja napisana przez pojedynczego agenta zawierała funkcję, której API klienta nie miało, i zadanie zbudowania pola, które już istniało; weryfikator tylko do odczytu, z prawdziwą dokumentacją, schematami i kodem, sprawdza teraz każdy plan jako pierwszy.
- Warunek ukończenia musi dać się uruchomić. Siedem z dziewięciu zadań w jednym projekcie wskazywało bramkę testową, której nikt nie mógł uruchomić, więc teraz każdą wskazaną bramkę uruchamiamy raz na niezmienionym kodzie, zanim ją zaakceptujemy.
- Wyjście planisty jest sprawdzane, a nie przyjmowane na wiarę. Agent planujący nasz blog proponuje trzy ocenione tematy i niczego nie zapisuje, a każdy proponowany przez niego link do glosariusza musi przy żywym żądaniu zwrócić 200, zanim zostanie użyty.
- Wykonawca ma bezpiecznik: gdy ta sama poprawka zawodzi około trzech razy, oznacza zadanie jako zablokowane i idzie dalej.
To, co wykonawca naprawdę zrobił, odczytujemy z jego trajektorii agenta.
Kiedy ten wzorzec jest złym wyborem?
Planowanie dodaje wywołanie modelu, więcej stanu i plan, który może się zdezaktualizować. Opłaca się przy pracach z zależnymi etapami, bramkami zatwierdzeń, kosztownymi akcjami lub wymogiem audytu. Krótkie zadanie z niepewną ścieżką lepiej obsłuży pętla ReAct. Gdy kroki nigdy się nie zmieniają, zakoduj workflow: jak argumentujemy w tekście Deep agents in production (po angielsku), workflow, który da się narysować na tablicy, należy zapisać właśnie jako ten rysunek.