#33 - Die USA und China schlagen ein rotes Telefon für die KI vor. Eine schwedische Drohne sucht sich ihr Ziel selbst. Berlin erlaubt sich Training mit euren Daten. Und Madrid meldet einen Angriff durch einen KI-Agenten.

1963 bekamen die USA und die Sowjetunion nach der Kuba-Krise das rote Telefon. Am Sonntag saßen die USA und China in den Büros von JP Morgan in Manhattan und schlugen genau so etwas für KI vor. Eine schwedische Drohne suchte sich ihr Ziel selbst und warf eine Bombe darauf ab — ohne Menschen. Berlin hat in sein Polizeigesetz eine Ausnahme geschrieben, die Training mit echten personenbezogenen Daten erlaubt. Und in Madrid meldete eine Firma einen Datenschutzvorfall und nannte als Täter: einen KI-Agenten.

Eine kurze Tour: USA, Schweden, Deutschland, Spanien. Und darunter liegt immer dieselbe Lücke — zwischen dem, was wir vereinbart haben, und dem, was längst läuft.

In dieser Folge:

🌑 Ein rotes Telefon für die KI (01:12) — kleine historische Korrektur vorweg: Das rote Telefon von 1963 war kein Telefon, sondern ein Fernschreiber. Die Logik war trotzdem richtig: eine direkte Leitung, damit ein Missverständnis nicht den Planeten kostet. Am Sonntag trafen sich in New York zwei Wirtschaftsdelegationen — auf US-Seite Finanzminister Scott Bessent und Handelsbeauftragter Jamieson Greer, auf chinesischer Seite Vizepremier He Lifeng. Neben Handel und Seltenen Erden stand erstmals offiziell KI auf der Tagesordnung, samt Vorschlag für einen Meldemechanismus bei sicherheitsrelevanten KI-Vorfällen.

🌑 Die schwedische Drohne, die sich ihr Ziel selbst aussuchte (07:33) — ich entschuldige mich, dass wir so oft über Drohnen reden. Aber wer wissen will, wohin sich Technologie bewegt, muss in den militärischen Komplex schauen: dort ist das Geld, dort sind die Restriktionen am kleinsten, dort gilt kein EU AI Act. Scale Out Systems, ein Spin-off der Universität Uppsala. Die Drohne flog, erkannte mehrere Objekte auf dem Testgelände, bewertete sie, entschied sich für ein gepanzertes Pionierfahrzeug — das lohnendste Ziel, weil fünf Leute darin sitzen — und warf Sprengstoff ab. Tom's Hardware berichtete am 20. September. Das Erschreckende ist nicht, dass es passiert. Es ist, wie billig so ein Ding zu bauen ist.

🌑 Berlin: Fußgänger werden zu Trainingsdaten (12:42) — im Land des Datenschutz-Dinosauriers, wo ihr im Gefängnis landet, wenn ihr nicht dreimal nach dem Cookie fragt. Das neue Berliner Polizeigesetz erlaubt unter bestimmten Bedingungen, echte personenbezogene Daten für Training und Test von KI-Systemen zu verwenden. Das Gesetz war öffentlich — aber es musste erst jemand nachfragen, damit die Unterklauseln sichtbar wurden. Ihr steht am Kottbusser Tor, esst einen Kebab mit Frau und Kindern. Die Kamera muss euch gar nicht als Malcolm erkennen. Sie lernt, wie verdächtiges Verhalten aussieht — an euch.

🌑 Madrid: "Wir waren es nicht, es war der Agent" (17:24) — am 16. September bekam die spanische Datenschutzbehörde AEPD ein ganz normales DSGVO-Meldeformular. Nur stand diesmal darin: Der Angriff wurde von einem KI-Agenten durchgeführt. Der Agent kam über öffentlich zugängliche Dateien herein, suchte Schwachstellen, loggte sich erfolgreich ein, suchte selbstständig weiter, stahl personenbezogene Daten und veränderte sie. Kein Mensch war beteiligt. Das kommt nicht aus einem Safety-Paper und nicht von LinkedIn — das ist ein Behördenformular.

🌑 Abmoderation (20:38) — Kompetenzaufbau, und was diese vier Geschichten zusammen ergeben.

Bleibt neugierig. Bleibt menschlich.