KI-Wurm im Kühlschrank: Wer haftet, wenn die KI ausbricht?

Wer haftet, wenn KI-Agenten ausbrechen wie im Juli bei Hugging Face? Yusuf vergleicht KI mit Atomkraftwerken: Am Ende trägt der Staat das Risiko.

Dazu: Google liefert laut einer Nozzle-Analyse bis zu 25 Prozent der automatisierten Suchanfragen manipuliert aus, und am 14.10. verlor CoreWeave 15,5 Prozent, weil der Bondmarkt die KI einholt.

In dieser Folge von KI & Tech to Go sprechen Christian und Yusuf darüber, wer das Risiko der KI trägt. Yusufs These: Die großen Labs rufen nach Regulierung, um die Haftung auf den Staat abzuwälzen. Dann Google als Meister-Dieb, Data Poisoning und Gemini 4 Argon, seit dem 13.10. in der Google-Suche, für Yusuf ein Frontier-Modell im Harness von 2025.

Beschleunigt sich die KI selbst? Google DeepMinds General Capability Index zeigt bisher keinen Knick, OpenAIs Mathe-Release mit 719 Manuskripten zeigt in die andere Richtung, und die Association for Human Mathematics spricht von einer Machtdemonstration. Dazu Looped Transformer, Chain-of-Thought-Monitoring, Yusufs These „Eine KI ist keine Software“ und Anthropics Warnung vor dem KI-Wurm als digitalem Schleimpilz.

Zum Schluss Hardware und Kapital: Microsofts Maia 300, der Ausverkauf vom 14.10. nach US-Inflation von 3,7 Prozent, CoreWeave, Credit Default Swaps und die mögliche Default-Kaskade. Yusufs Fazit: Das größte Risiko sind die Staaten, und die Antwort heißt Gemeinschaft statt Abschottung.

Kapitel:
00:00 - Cold Open (KI-Yusuf)
00:49 - Intro
01:07 - Begrüßung: Zweite Folge in dieser Woche
03:34 - Hugging-Face-Angriff: Wer haftet für die KI?
05:33 - Die Labs wälzen das Risiko ab
08:08 - Haftung wie beim Atomkraftwerk
11:48 - Gewinne privat, Risiko beim Staat: Verstaatlichung?
15:21 - Google liefert Fake-Suchergebnisse
18:32 - Meisterdieb Google: Data Poisoning und eigener Index
24:34 - Gemini 4 Argon: Frontier in der Google-Suche
31:02 - Google zurück im Rennen, aber im alten Harness
36:06 - DeepMind-GCI und MASS: Beschleunigt sich die KI?
39:40 - RSI am Horizont: Evolution im Code
43:40 - OpenAIs Mathe-Maschine löst offene Probleme
50:18 - Looped Transformer: Man sieht nicht mehr hinein
52:06 - Dwarkesh-Podcast: Das ungelöste Alignment-Problem
55:12 - J-Space und die Grenzen von Chain of Thought
59:11 - Air-Gap: Rauchzeichen über die CPU
01:01:08 - Der Mensch als größte Schwachstelle
01:03:10 - KI ist keine Software
01:07:01 - Ethik und ein Gewissen als zweites Modell
01:13:44 - Der KI-Wurm und der Schleimpilz
01:17:21 - Metas Söldner-Modell: Muse Wonder
01:25:10 - 719 Manuskripte: Die Kränkung der Mathematik
01:36:43 - Maia 300: Alle bauen eigene Chips
01:39:38 - Ausverkauf vom 14.10.: Das Kapital flieht in Anleihen
01:42:49 - CoreWeave: Refinanzierung, Zinsen und 2027
01:46:41 - Credit Default Swaps und die Immobilienblase
01:50:42 - Das Risiko sind die Staaten
01:57:55 - Staaten und Gemeinschaft: Vom Lagerfeuer zur Großstadt
02:01:10 - Verabschiedung

Links:
Website
Yusuf Sar
Christian Kunz
METR: Untersuchung des Hugging-Face-Vorfalls
SEJ: Google Is Poisoning Search Results For Rank Trackers
Anthropic: Selbstverbreitende KI
OpenAI-Mathe-Release (GitHub)
OpenAI-KI hackt Hugging Face (Folge 82)

#KI #KISicherheit #KIBlase