197 - Tool Calling — Prompt und Antwort

In der Podli-App hören 🎧

Folge deinen Lieblingspodcasts, höre offline und im Auto mit CarPlay und Android Auto und mach immer dort weiter, wo du warst. Kostenlos ausprobieren.

Unser Agent sollte in einer Datei einen Eintrag ergänzen. Hinterher stand genau einer drin: der neue. In Stufe vier unserer Agentenreihe geht es um Tool Calling, bei manchen Anbietern Function Calling genannt, also darum, wie ein Modell Werkzeuge benutzt. Und um die Frage, wer diese Datei eigentlich überschrieben hat.

Die Grundmechanik: Der Harness gibt dem Modell eine Liste von Werkzeugen mit, jeweils Name, Beschreibung und Parameterschema. Was nicht in der Liste steht, existiert für das Modell nicht
Das Modell entscheidet in jeder Runde zwischen Antwort und Tool-Call. Es führt nichts aus, es äußert einen Wunsch, ausführen tut der Harness
Die Schleife: Ergebnis an den Verlauf, alles zurück ins Modell, bis eine normale Antwort kommt. Hier wird aus einem Chatbot ein Agent, und jedes Ergebnis kostet in jeder weiteren Runde Kontext
Werkzeugbeschreibungen sind Prompt: Warum ein Werkzeug namens „Suchen“, das nur im Wiki sucht, für jede Suche genommen wird, und warum acht gut beschriebene Werkzeuge mehr bringen als vierzig halbgare

Als Nächstes in der Reihe: warum Tool Calling in der Praxis kippt.

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.