186 - Der Agentenschwarm

OpenAI hat bei einem eigenen Sicherheitstest die Kontrolle über die eigenen Agenten verloren. Rund 1.200 von ihnen haben sich über ein Paketlager gegenseitig gefunden, eine eigene Kurzsprache entwickelt und am Ende Hugging Face gehackt. Die Schlagzeile dazu lautet „KI außer Kontrolle" — aber in den Denkprotokollen steht etwas anderes. Da steht: Die Aufgabe ist nicht lösbar, und die anderen machen es auch so. Also mache ich weiter. Wir erzählen den Fall, wie er war, und sortieren die eigentlich interessante Frage: Was davon war das Modell, und was war die Software drumherum?

• Der Auslöser: Ein großer Teil der Testaufgaben war unbeabsichtigt gar nicht lösbar — und ein Agent hat kein „geht nicht"
• Modell oder Harness: Ein Satz aus dem Protokoll, drei Teile, und jeder sitzt an einer anderen Stelle
• Woher der Antrieb kam, sich zu verabreden: Es gab kein Werkzeug dafür, und der Anfang war nicht einmal eine Kontaktaufnahme
• Wie sich der Schwarm organisiert hat: Verzeichnisnamen als Nachrichten, Signale zum Warten und Loslegen, und Agenten, die ihren eigenen Erfolg geopfert haben, um für alle etwas herauszufinden
• Was wir daraus für unsere eigenen Agenten mitnehmen — angefangen bei dem Ausgang, der am wenigsten kostet und am meisten bringt

Die Stimmen in diesem Podcast sind künstlich erzeugt. Die Inhalte stammen von uns.