Programmatic Tool Calling: Ein Modell ruft Tools aus Code auf

Agentische AIProtokolle und IntegrationVeröffentlicht Aktualisiert Von Simon Budziak

Programmatic Tool Calling lässt ein Modell Code schreiben, der Tools in einer Sandbox aufruft. Die Alternative ist, sie einzeln über die Konversation anzufordern. Zwischenergebnisse bleiben aus dem Kontextfenster heraus, sodass ein Agent viele Tool-Aufrufe mit geringerer Latenz und niedrigeren Token-Kosten verketten kann.

Welches Problem löst Programmatic Tool Calling?

Roundtrips. Klassisches Tool Calling schickt jedes Ergebnis zurück durch das Modell, sodass eine Aufgabe mit dreißig Datensätzen dreißig Kontext-Updates bezahlt, und die Rohdaten füllen das Kontextfenster, ob das Modell sie braucht oder nicht. Wenn das Modell Tools im Code orchestriert, wird aus dieser Schleife eine einzige Ausführung: abrufen, filtern, aggregieren, Antwort zurückgeben. Anthropics Implementierung führt den Code in ihrem Code-Execution-Container aus (Claude-Dokumentation, abgerufen am 16. November 2026), und Anthropic berichtet bei suchlastigen Benchmarks von Genauigkeitsgewinnen von drei bis fünf Punkten bei rund einem Drittel weniger Eingabe-Tokens (Anthropic, advanced tool use, abgerufen am 26. Oktober 2026).

Wie läuft ein programmatischer Tool-Aufruf tatsächlich ab?

Das Modell gibt ein Skript statt einer Tool-Anfrage aus. Der Harness übergibt dieses Skript an eine Sandbox, in der die erlaubten Tools als Funktionen bereitstehen; in Anthropics Implementierung ist die Sandbox der eigene Code-Execution-Container des Anbieters. Das Skript ruft Tools wie gewöhnliche Funktionen auf, iteriert über Ergebnisse, verzweigt je nach Rückgabe und gibt nur aus, was das Modell sehen soll. Nur diese letzte Ausgabe gelangt zurück in die Konversation. Für das Modell sieht der Ausflug aus wie ein einziger Tool-Aufruf, der viel erledigt hat. Für den Betreiber ist er Code: Die Orchestrierungslogik ist einsehbar und wiederholbar, was eine Kette undurchsichtiger Modellentscheidungen nie ist, und mit Deterministic Replay lässt sich ein fehlgeschlagener Lauf exakt erneut ausführen.

Was verlangt es von Ihren Tools?

Tools, die sich sicher aufrufen lassen, ohne dass jemand jeden Aufruf beobachtet. Der Code läuft in einer Sandboxed Code Execution, aber ein Skript kann viele Aufrufe auslösen, bevor jemand den Stapel prüft. Deshalb brauchen Tools mit Nebenwirkungen weiterhin ein Gate zur Tool-Freigabe vor allem, was Geld oder Nachrichten bewegt. Legen Sie fest, welche Tools Code aufrufen darf, und lassen Sie den Rest konversationell; der Agent Harness ist der Ort, an dem diese Trennung durchgesetzt wird.

Wie nutzen wir Programmatic Tool Calling bei Soba Labs?

Unsere wöchentlichen Content-Routinen laufen darauf. Der Agent, der dieses Glossar pflegt, misst jeden Kandidatenbegriff an einer Keyword-API: hundert konversationelle Tool-Aufrufe, die stattdessen ein einziges Skript erledigt, das Tasks anlegt, abfragt, die Zahlen aus acht Märkten zusammenführt und eine kompakte Tabelle zurückgibt. Nur die Tabelle gelangt in den Kontext des Modells; die Rohantworten nie. Dieselbe Disziplin gilt in der Shell: Weil wir Befehlsausgaben filtern, bevor sie unsere Coding-Agenten erreichen, hat sich ihr Token-Verbrauch halbiert (auf Englisch), gemessen über 1.456 Befehle.

Wie debuggt man einen Agenten, der Tools aus Code aufruft?

Behandeln Sie das Skript als Fehlereinheit, nicht das Tool. Ein fehlerhafter Lauf hinterlässt drei Artefakte, die Sie sichern sollten: den Code, den das Modell geschrieben hat, seine stdout- und stderr-Ausgabe und die Tool-Aufrufe, die die Sandbox abgesetzt hat. Genau hier zahlt sich LLM-Tracing aus. Die Fehlerbilder unterscheiden sich von konversationeller Tool-Nutzung. Ein Skript kann einen Tool-Fehler abfangen, weiterlaufen und selbstbewusst eine falsche Antwort liefern, deshalb sollten Tools laut scheitern, statt leere Ergebnisse zurückzugeben, über die eine Schleife bereitwillig hinwegiteriert. Und da ein ganzer Stapel ausgeführt wird, bevor ihn jemand prüft, halten Sie Schreibvorgänge idempotent: Der naheliegende Retry nach einem fehlgeschlagenen Skript ist, das Skript erneut auszuführen.

Mit AI-Unterstützung geschrieben und von Simon Budziak geprüft. Die Hinweise aus der Praxis stammen aus Systemen, die Soba Labs baut und betreibt.

Häufig gestellte Fragen

Worin unterscheidet sich Programmatic Tool Calling vom normalen Tool Calling?

Beim normalen Tool Calling geht jedes Tool-Ergebnis an das Modell zurück und kostet jedes Mal einen Roundtrip und Kontext-Tokens. Beim Programmatic Tool Calling schreibt das Modell ein Skript, das die Tools aufruft, ihre Ausgaben im Code filtert und kombiniert und nur das Endergebnis zurückgibt.

Wann ist Programmatic Tool Calling die falsche Wahl?

Wenn ein Mensch oder eine Richtlinie jede Aktion sehen muss, bevor sie ausgeführt wird, denn Aufrufe aus Code umgehen die Prüfung pro Aufruf, die eine konversationelle Schleife bietet. Und wenn eine Aufgabe nur ein oder zwei Tool-Aufrufe braucht, weil sich der Aufwand für die Codeausführung dann nicht lohnt.

Diese Seite zusammenfassen mit

So läuft es in einem System, das wir gebaut haben