Agenten, Tools und Orchestrierung

Tool Use

Nutzung externer Werkzeuge durch ein Modell oder einen Agenten.

Tool Use bezeichnet die Nutzung externer Werkzeuge durch ein Sprachmodell: Funktionen, die du selbst definierst, oder solche, die der Anbieter mitliefert. Der Vorgang ist ein Vertrag zwischen Anwendung und Modell. Du legst fest, welche Operationen es gibt und welche Form Eingabe und Ausgabe haben, das Modell entscheidet, wann und wie es sie aufruft. Ausführen tut es selbst nichts. Anthropic: How tool use works

Der Unterschied liegt darin, wo der Code läuft

Üblich ist die Einteilung in Client-Werkzeuge und Server-Werkzeuge. Bei Client-Werkzeugen antwortet das Modell mit einem Aufrufblock, deine Anwendung führt die Operation aus und schickt das Ergebnis zurück. Server-Werkzeuge wie Websuche oder Codeausführung laufen beim Anbieter, dort siehst du nur das fertige Ergebnis. Anthropic: Tool use with Claude

Tool Use ist der Oberbegriff für diesen ganzen Vorgang: Werkzeuge bereitstellen, Aufruf erzeugen, Operation ausführen, Ergebnis zurückgeben. Anbieter verwenden den Begriff und Function Calling oft gleichbedeutend, die Dokumentationen sagen das auch ausdrücklich.

So kannst du dir das vorstellen

Das Modell ist wie eine Kollegin am Telefon, die keinen Zugang zu euren Systemen hat. Sie kann sagen, welche Kundennummer nachgeschlagen werden soll, aufmachen musst du die Datenbank. Die Analogie zeigt die Arbeitsteilung, sie beschreibt kein Sicherheitsmodell.

Wo es verwendet wird

Werkzeuge lohnen sich dort, wo Text allein nicht reicht: bei Handlungen mit Nebenwirkung wie dem Versand einer Mail, bei frischen oder internen Daten und beim Zugriff auf bestehende Systeme. Für Zusammenfassungen oder Übersetzungen braucht es keinen Werkzeugaufruf.

Was es in der Praxis bedeutet

Jede Werkzeugbeschreibung steht in jeder Anfrage und belegt Tokens, dazu kommt bei manchen Anbietern ein Systemprompt, der die Werkzeugnutzung einschaltet. Mehr Werkzeuge bedeuten also höhere Kosten und mehr Auswahlmöglichkeiten, bei denen das Modell danebengreifen kann. Wer Werkzeuge baut, sollte sie so beschreiben wie für eine neue Kollegin und die Rechte eng halten, denn das Modell schlägt den Aufruf nur vor. Was wirklich passiert, entscheidet dein Code.

Wo es verwechselt wird

Tool Calling meint den einzelnen strukturierten Aufruf, Tool Use den gesamten Vorgang. Und ein Modell mit Werkzeugen ist noch kein Agent: Dafür muss es mehrere Schritte selbst aneinanderhängen.