191 - Die Akte — Prompt und Antwort

In der Podli-App hören 🎧

Folge deinen Lieblingspodcasts, höre offline und im Auto mit CarPlay und Android Auto und mach immer dort weiter, wo du warst. Kostenlos ausprobieren.

Stufe zwei unserer Freitagsreihe zum Agentenbau: die Message History, also der Gesprächsverlauf. Das Sprachmodell fängt bei jedem Aufruf wieder bei null an. Dass ChatGPT trotzdem weiß, was du vor zehn Minuten geschrieben hast, liegt nicht am GPT, sondern am Chat, der Software drumherum. Wer selbst baut, bekommt dieses Gedächtnis nicht geschenkt, sondern muss sich darum kümmern. Unser Bild dafür ist der Schichtwechsel im Krankenhaus: Jede Ärztin kommt neu auf die Station und weiß über den Patienten genau das, was in der Akte steht.

Warum der Chat in ChatGPT schon ein Harness ist, und warum das den wenigsten bewusst ist
Die Liste mit den Rollen Nutzer und Assistent, die bei jedem Aufruf komplett mitgeht
Speichern, wieder laden, mehrere Gespräche nebeneinander: den Verlauf ordentlich verwalten
Ein Trick, den die wenigsten kennen: den Anfang der Antwort selbst vorgeben, etwa eine geschweifte Klammer für sauberes JSON
Warum der Verlauf auch sicher verwaltet werden muss, und warum er mit jeder Runde wächst

Die Experimente zur Folge findest du auf building-agents.com in Block 1, Kapitel 2. Nächsten Freitag geht es um den System-Prompt.

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.