Planner-executor pattern: co to jest i jak działa w agentach

Agentowa AIArchitektura i orkiestracjaOpublikowano Zaktualizowano Autor: Simon Budziak

Wzorzec planner-executor oddziela planowanie agenta AI od wykonania. Planista zamienia cel w uporządkowane kroki, każdy z warunkiem ukończenia. Wykonawca realizuje jeden krok naraz, używając odpowiednich narzędzi, i zdaje raport, więc planista może kontynuować, poprawić plan albo zaplanować od nowa, gdy rzeczywistość zmieni trasę.

Wpis LangChain Plan-and-Execute Agents (13 lutego 2024) łączy planistę, który pisze wieloetapowy plan, z wykonawcami, z których każdy bierze jeden krok i wywołuje narzędzia; prompt ponownego planowania decyduje potem, czy odpowiedzieć, czy zaplanować od nowa. Jego argument przeciw agentowi ReAct: szybsze działanie, bo duży model nie jest pytany po każdej akcji, i tańsze podzadania na mniejszych modelach. Pomysł wywodzi się z promptowania Plan-and-Solve (ACL 2023).

Planista tworzy uporządkowany plan, wykonawca realizuje jeden krok naraz i zgłasza wynik, a zablokowaną pracę odsyła do ponownego planowania

Plan to proponowana trasa, a nie pozwolenie dla wykonawcy, by szedł dalej po tym, jak świat się zmienił.

Co tworzy planista?

Kroki, każdy z zamierzonym wynikiem, potrzebnymi danymi wejściowymi i warunkiem, który mówi, kiedy jest gotowy. Plan powinien być widocznym stanem, a nie prozą w prompcie, żeby dało się go sprawdzić, zanim cokolwiek ruszy, i wznowić po przerwie. Planista odpowiada za kolejność, a wykonawca za dowody dla każdego kroku. Wzorzec orchestrator-worker dzieli pracę podobnie przy zadaniach równoległych, a agent nadzorujący kieruje dynamicznie, gdy kolejny wykonawca zależy od tego, co wróciło.

Jak wykonawca pozostaje w granicach i kiedy planuje od nowa?

Wykonawca dostaje jeden krok, narzędzia do niego i wynik, który musi zwrócić. Nie redefiniuje celu i nie przeskakuje do przodu. Zwraca rezultat, dowody i status (ukończony, zablokowany, wymaga zatwierdzenia), więc zły rezultat to problem wykonania, a zły krok to problem planowania. Planuj od nowa na podstawie zaobserwowanego stanu, gdy zawiedzie warunek wstępny albo narzędzie zwróci coś nieoczekiwanego, a nigdy na podstawie pewności modelu. Najmniejsze użyteczne ponowne planowanie to często jeden zmieniony krok, a nie nowy plan. Przechowuj plan i dowody kroków w trwałym wykonaniu, żeby ponowienie nie powtórzyło akcji, a kontrolę oddawaj przez jawne przekazanie agenta.

Jak używamy wzorca planner-executor w Soba Labs?

Większość naszej pracy z agentami to najpierw plan, potem wykonanie, i plan sprawdzamy, zanim jakikolwiek wykonawca na jego podstawie zadziała:

To, co wykonawca naprawdę zrobił, odczytujemy z jego trajektorii agenta.

Kiedy ten wzorzec jest złym wyborem?

Planowanie dodaje wywołanie modelu, więcej stanu i plan, który może się zdezaktualizować. Opłaca się przy pracach z zależnymi etapami, bramkami zatwierdzeń, kosztownymi akcjami lub wymogiem audytu. Krótkie zadanie z niepewną ścieżką lepiej obsłuży pętla ReAct. Gdy kroki nigdy się nie zmieniają, zakoduj workflow: jak argumentujemy w tekście Deep agents in production (po angielsku), workflow, który da się narysować na tablicy, należy zapisać właśnie jako ten rysunek.

Napisane z pomocą AI i sprawdzone przez Simona Budziaka. Uwagi z produkcji pochodzą z systemów, które Soba Labs buduje i utrzymuje.

Najczęściej zadawane pytania

Czy planista musi być osobnym modelem?

Nie. Jeden model może odgrywać obie role w osobnych wywołaniach. Ważna jest granica w postaci artefaktu planu i ograniczonej odpowiedzialności wykonawcy, a nie konkretny model czy framework.

Czy wykonawca powinien trzymać się planu co do joty?

Nie. Powinien zgłaszać zablokowane lub zmienione warunki i prosić o ponowne planowanie. Ślepe wykonywanie zamienia plan w kruchy skrypt.

Kiedy wzorzec planner-executor jest zbędny?

Jest zbędny przy krótkim zadaniu z oczywistym następnym krokiem. Prosta pętla ReAct albo deterministyczny workflow są łatwiejsze do zbudowania i oceny.

Podsumuj tę stronę w

Zobacz, jak to działa w systemie, który zbudowaliśmy