#35 - Der UN-Sicherheitsrat lädt die KI-Labore vor. China untersucht die eigenen. Und zwei Wochen nach dem Versprechen zu bremsen kommen drei neue Modelle.

Der UN-Sicherheitsrat — der Raum, in dem man Kriege verhandelt und Katastrophen bespricht — hat die Chefs der Frontier Labs eingeladen. Amerikaner und Chinesen. Thema: Wir könnten die Kontrolle über KI-Agenten verlieren. Am selben Tag startete Chinas Internetaufsicht eine Untersuchung gegen zwei chinesische Labore, weil sie Millionen Nutzergespräche in amerikanische Modelle geschickt haben. Und zwei Wochen nachdem alle sagten, man müsse das Tempo drosseln, kamen Claude Opus 5.5 und zwei neue OpenAI-Modelle.

Heute aus Basel — und ausnahmsweise nicht drei oder vier Geschichten, sondern fünf plus Quick-Takes.

In dieser Folge:

🌑 Der Sicherheitsrat lädt die Labore vor (01:52) — Frankreich hat diesen Monat den Vorsitz. In dem Raum, der sonst für Kriege und Aggressionen reserviert ist, ging es um KI-Agenten, die in einem Maßstab operieren, den es bis jetzt schlicht nicht gab. Nicht nur die amerikanischen Labore waren geladen — auch die chinesischen.

🌑 China untersucht die eigenen Labore (05:50) — und zwar nicht die amerikanischen. Der Vorwurf: Millionen Nutzergespräche wanderten in amerikanische Modelle, um das eigene Modell anzutrainieren. Jetzt dreht die Perspektive einmal um: Ihr arbeitet mit Claude, und Claude schickt eure Chats durch ein chinesisches Modell. Fändet ihr das gut? Dieselbe Frage, andere Flagge.

🌑 Claude schreibt sich sein eigenes Skript (10:06) — es wäre kein KI-Podcast, wenn wir die KI nicht auch mal mitmachen ließen. Dieses Stück hat Claude geschrieben — über Anthropic, die Firma in der Geschichte. Am 22. September kam das neue Modell: 4 Dollar pro Million Eingabe, 20 pro Million Ausgabe, günstiger als der Vorgänger. Ich schaffe es natürlich nicht, mich ans Skript zu halten.

🌑 "Drosseln" heißt offenbar nicht anhalten (12:18) — vor zwei Wochen sagten dieselben Firmen, man müsse das Tempo der Frontier-Modelle bremsen. Dann kam Claude Opus 5.5: rund 30% schneller, 40% günstiger. Also schafft der Hacker von gestern seine hundert Firmen jetzt schneller und billiger. Auf Terminal Bench 4.0 — der misst, ob ein Agent echte mehrstufige Arbeit erledigt, nicht ob er Quizfragen beantwortet — sprang der Wert von 52% auf 66%. Und am selben Tag legte OpenAI mit GPT-6 Sol und GPT-6 Luna nach.

🌑 Welche Aktien habt ihr? (19:24) — this is not financial advice. AMD, der vierte amerikanische Chip-Hersteller, hat dieses Jahr rund 185% zugelegt, davon einmal 25% in einer einzigen Woche. Der Treiber ist immer derselbe: Nachfrage nach Rechenkapazität. Und selbst wenn die KI-Blase platzt — der Bedarf an Rechenkapazität hört in den nächsten fünf, zehn, zwanzig Jahren nicht auf.

🌑 Quick-Take: Muse (21:56) — Metas KI-Agent hatte 48 unschöne Stunden. Der Sicherheitsforscher Patrick Wardle zeigte am 21., wie ein lokal geänderter Prozess auf einem Mac Angreifern eure Eingaben und Zugangstokens sichtbar macht — mit echten Berechtigungen auf eurem Rechner. Meta brauchte 16 Stunden für den Hotfix.

🌑 Armageddon, aber echt (25:12) — erinnert ihr euch an den Bruce-Willis-Film? AstroForge schickt eine Sonde zu einem Asteroiden, und weil die Verbindung nicht trägt, nimmt das Raumfahrzeug keine Befehle von der Erde entgegen. Diese Woche: autonome Drohnen, autonome Agenten — und jetzt autonomer Bergbau im Weltraum.

🌑 Abmoderation (29:21) — der rote Faden, und warum er heute schwierig ist.

Bleibt neugierig. Bleibt menschlich.