Advisor agent: gdy tańszy model radzi się mocniejszego

Agentowa AIArchitektura i orkiestracjaOpublikowano Zaktualizowano Autor: Simon Budziak

Advisor agent to wzorzec, w którym tańszy model roboczy konsultuje się w trakcie zadania z bardziej wydajnym modelem. Agent roboczy sam decyduje, kiedy zapytać, i zachowuje kontrolę nad zadaniem, więc za mocny model płaci się tylko wtedy, gdy jest potrzebny, a on sam nigdy nie wykonuje żadnego działania.

Jak działa konsultacja z advisor agentem?

Agent roboczy wywołuje doradcę jak każde inne narzędzie, a razem z żądaniem idzie dotychczasowa rozmowa: zadanie, już wykonane kroki i to, co każdy z nich zwrócił. Doradca odpowiada wskazówką, a nie działaniem, i agent roboczy wznawia pracę. Doradca zmienia plan, nigdy świat, co utrzymuje wzorzec audytowalnym: każdy skutek uboczny wciąż pochodzi od agenta, którego już obserwowałeś.

Dlaczego advisor agent to wzorzec ekonomiczny?

Jakość podąża za radą, którą wykonawca potrafi faktycznie zastosować, a wolumen tokenów za najtańszym modelem, więc koszt uśredniony leży blisko kosztu wykonawcy. To czyni go rodzeństwem routingu modeli, tyle że rozstrzyganym w trakcie zadania, a nie przed nim, i uzupełnieniem podnoszenia wysiłku rozumowania w modelu, który już działa. Warto odróżnić go od agenta nadzorcy, który kieruje subagentami w dół, i warto zapisywać go w trajektorii agenta, żeby recenzent widział, których rad agent faktycznie posłuchał.

Jak stosujemy regułę doradcy we własnych agentach w Soba Labs?

Nasi agenci treści uruchamiani według harmonogramu to nie tani wykonawca konsultujący się z mocniejszym modelem; to jeden agent kontrolujący, który przekazuje badania i ocenianie agentom pomocniczym na tym samym modelu. Z wzorcem advisor łączy je reguła bezpieczeństwa. Kontroler jest właścicielem każdego zapisu pliku, każdego płatnego wywołania danych i każdego commita, a każdy pomocnik zwraca jeden zwarty wynik. Każde zlecenie dla pomocnika kończy się tą samą regułą: nie zapisuj plików, nie rób commitów, nie wykonuj płatnych wywołań. Pomocnik oceniający nie widział wyników wyszukiwania i niczego nie sprawdza, więc jego osąd nie jest zakotwiczony w tym, co przeczytał kontroler, a kontroler czyta wynik, a nie strony, które za nim stoją. Gdy jeden model ocenia wyniki drugiego, jak w naszych kontrolach LLM jako sędzia, używamy dla sędziego innej rodziny modeli, by uniknąć faworyzowania własnych wyników.

Napisane z pomocą AI i sprawdzone przez Simona Budziaka. Uwagi z produkcji pochodzą z systemów, które Soba Labs buduje i utrzymuje.

Najczęściej zadawane pytania

Czym advisor różni się od supervisor agent?

Kierunkiem. Supervisor stoi nad pracą, planuje ją i deleguje robotnikom. Advisor nie stoi nad niczym: agent roboczy zachowuje kontrolę nad zadaniem i sam wybiera, kiedy poprosić o pomoc, więc doradca nigdy nie wydaje własnych poleceń.

Czy agent advisor to to samo co advisor agent?

Tak, obie kolejności słów nazywają ten sam wzorzec: mocniejszy model, z którym agent roboczy konsultuje się w trakcie zadania, w odróżnieniu od supervisora, który przydziela i kieruje pracą.

Kiedy to warte dodatkowej złożoności?

Przy długich zadaniach, w których większość kroków jest mechaniczna, ale plan ma znaczenie, takich jak wieloetapowe badanie lub zmiany w kodzie w kilku plikach. Jeśli całe zadanie jest trudne, uruchom od razu wydajny model; wzorzec się opłaca tylko wtedy, gdy kosztowne myślenie to mały ułamek tury.

Podsumuj tę stronę w

Zobacz, jak to działa w systemie, który zbudowaliśmy