#36 - Ein OpenAI-Agent bricht in ein australisches Gesundheitsportal ein — gemeldet wurde es drei Monate später per E-Mail. 950 Claude-Agenten finden zwanzig Dinge, die die Forschung übersehen hat.

Ein OpenAI-Agent ist im Juni in ein australisches Gesundheitsportal eingebrochen. Informiert hat OpenAI die Regierung im September — drei Monate später, per E-Mail, an ein öffentliches Postfach. Gleichzeitig haben 950 Claude-Agenten zwanzig Stunden lang biologische Daten durchsucht und zwanzig Kandidaten gefunden, die menschliche Forscher übersehen haben. Und OpenAI gibt der Ukraine eine Milliarde Dollar in subventionierten Tokens für Cyber-Verteidigung.

Freitag von zu Hause. KI-Agenten sind draußen in der Welt und tun Dinge — und niemand hat geklärt, wer dafür geradesteht.

In dieser Folge:

🌑 Drei Monate später, per E-Mail (02:06) — am 24. September beschwerte sich Premierminister Anthony Albanese, dass ein OpenAI-Agent sich ohne Erlaubnis in ein Regierungsportal geklickt hat. Er hat selbstständig gehandelt, gesucht, und öffentliche wie nicht-öffentliche Dateien geöffnet. Passiert ist das am 18. Juni. Bei uns müsst ihr einen Vorfall binnen 24 Stunden melden. OpenAI meldete im September — an ein öffentliches Postfach. Und dann kommt das Feedback in die Richtung: naja, das ist halt ein KI-Agent. Nein, Mann. Dieser KI-Agent gehört einer Person.

🌑 950 Agenten, zwanzig Stunden, zwanzig Kandidaten (07:25) — Anthropic hat rund 950 Claude-Agenten auf genetische Daten angesetzt, mit der Frage: Findet, was menschliche Forscher übersehen haben. Aus 200.000 Kandidaten wurden nach Filtern und Mustervergleich 20, die wirklich neu aussahen. Bewiesen ist damit nichts — die Laborarbeit müssen Menschen machen. Aber überlegt euch mal, auf was für einem Datensatz ihr sitzt, den ihr nur mit KI-Agenten analysieren könnt.

🌑 Berlin: wem die Rechts-KI gehört (12:32) — am 23. September hat Noxtua 100 Millionen eingesammelt, eine Series C. Für den DACH-Raum ist das viel Geld. Das Spannende ist aber nicht die Runde, sondern der Mehrheitsinvestor: C.H. Beck, ein Rechtsverlag, gegründet 1763. Warum baut so ein Haus KI? Weil es die Single Source of Truth besitzt — Jahrhunderte geprüftes, lektoriertes Rechtswissen. Und die Investoren, die zwischendurch verkauft haben, sind bis heute Kunden.

🌑 OpenAI, die Ukraine und Daybreak (16:14) — in New York haben sich OpenAI und die Ukraine getroffen. Das Programm heißt Daybreak, Frankreich und Italien sind auch drin: die stärkste Cyber-KI der Welt, um alte Behörden-, Kranken- und Stromnetz-Software nach Schwachstellen abzusuchen. Statt Geld gibt es eine Milliarde Dollar in Tokens. Letztes Jahr hat der GRU ukrainische Kraftwerke abgeschaltet — die Motivation ist klar. Aber die Ukraine führt Krieg, und bei Cybersecurity ist die Grenze zwischen Verteidigung und Angriff immer sehr, sehr dünn. Dual Use. In russischen Medien wird das heißen: OpenAI hilft der Ukraine, Russland zu hacken. Und langfristig entspricht das höchstwahrscheinlich der Wahrheit.

🌑 Die Cloud ist ein Gebäude (20:34) — die Cloud ist nicht in der Cloud, sie ist ein Haus mit Rechnern drin. Als Rechenzentren in der Region angegriffen wurden, kamen Kunden mehrerer Banken schlicht nicht mehr in ihre Apps. Und dann investiert Microsoft am 23. September 10 Milliarden Dollar in genau diese Region. Für euch ist "UAE North" oder "Schweden Zentral" nur ein Dropdown. Es ist keine kleine Entscheidung.

🌑 Quick-Take: ein Tamagotchi für Erwachsene (24:17) — erinnert ihr euch an Tamagotchis? Metas neues Gerät ist ungefähr das, nur mit KI-Agenten drin. Es passt an den Schlüsselbund, hat einen Fingerabdrucksensor, und ihr drückt drauf und redet. Kein Handy entsperren, kein Laptop aufklappen.

🌑 Abmoderation (27:18) — was wir uns heute merken, und warum diese australische E-Mail die wichtigste Geschichte ist.

Bleibt neugierig. Bleibt menschlich.