#40 - Der Mann mit der Sicherheitscheckliste steigt aus: Die KI trifft auf die Wirklichkeit

Der Mann, der bei OpenAI an den Sicherheitsberichten geschrieben hat, geht – und schreibt öffentlich: Die Kultur ist kaputt. In derselben Woche sagen Nachbarn von Seoul bis Kapstadt Nein zu den Gebäuden, in denen KI läuft, und Speicher wird so knapp, dass KI-Hardware mehr kostet und weniger kann.

Heute geht es darum, wie die KI die Laborbedingungen verlässt – und auf die Wirklichkeit trifft.

In dieser Folge:

🌑 Der Mann mit der Sicherheitscheckliste steigt aus (02:07) — David Robinson hat OpenAI nach dreieinhalb Jahren verlassen. Er leitete die Arbeit an den Sicherheitsberichten zu den großen Modellveröffentlichungen und arbeitete am Preparedness Framework mit, dem internen Regelwerk dafür, wie gefährlich ein Modell vor dem Start ist. In The Atlantic schreibt er: „I Quit OpenAI Because Its Culture Is Broken.“ Sein Kernsatz: Die Zeit für Versuch und Irrtum ist vorbei. Bei so starken Modellen sind eingeplante Fehler nicht mehr akzeptabel – KI-Labore sollten arbeiten wie Kernkraftwerke oder große Flughäfen. Als würde der Mann, der die Sicherheitscheckliste geschrieben hat, das Flugzeug verlassen.

🌑 Rechenzentren: Der Nutzen verteilt sich, die Belastung hat eine Adresse (08:07) — 72 Prozent der befragten Amerikaner lehnen ein KI-Rechenzentrum in ihrer eigenen Gemeinde ab. In Seoul protestieren Anwohner seit 191 Tagen gegen ein achtstöckiges Rechenzentrum, und die Behörden wollen die Zustimmung der Mehrheit im Umkreis von 200 Metern. Thailand hat 49 Rechenzentrumsprojekte ausgesetzt, die geplanten Standorte von Equinix in Kapstadt bräuchten über 4,4 Milliarden Liter Wasser im Jahr, und Schottland hat die Genehmigung der größten Anlagen pausiert. Der Ausbau wird nicht stoppen – aber die Nachbarschaft wird zur echten Grenze.

🌑 China: Dreihundert Roboter treffen auf echte Menschen (13:58) — Golden Week in China, und im Chimelong Spaceship Park in Zhuhai begrüßen mehr als 300 humanoide Roboter von AgiBot die Besucher. Keine Bühnenshow, sondern Gedränge, Kinder und schräge Fragen. Die Zahl, die ich wirklich sehen will: Wie oft muss ein Mensch einspringen? Und Galbot verkauft seinen laufenden Humanoiden ET1 für rund 11.000 Dollar – Gebrauchtwagen-Niveau, gedacht für Geschäfte, Events und Freizeitparks.

🌑 Nvidia: Weniger Speicher, mehr Geld (19:09) — Nvidias kleiner KI-Rechner DGX Spark ist in einem halben Jahr von unter 4.500 auf rund 6.000 Euro gestiegen, und die neue Version kommt mit halbem Speicher zum gleichen Preis. Der Grund: Speicher ist knapp, Hersteller wie Micron verkaufen ihren Hochleistungsspeicher (HBM) für die KI-Chips im Voraus. Wer nächstes Jahr Laptops, Server oder Hardware einkauft, sollte mit deutlich höheren Preisen planen.

🌑 Flock: Ein Treffer ist noch keine Erlaubnis (22:36) — Flock Safety erfasst mit Kameras Kennzeichen auf amerikanischen Straßen, und die Polizei kann nachsehen, wo ein Auto gewesen ist. In Oklahoma hat eine Bundesrichterin entschieden, dass eine solche rückwirkende Suche – rund ein Monat Bewegungsdaten eines Fahrzeugs – gegen den vierten Verfassungszusatz verstößt. Liebe Polizei: Wenn ihr das wollt, holt euch einen richterlichen Beschluss.

🌑 Kolibri: Gute Nachrichten aus Deutschland (27:48) — Aleph Alpha hat am 3. Oktober Kolibri veröffentlicht: ein Open-Weight-Modell für Deutsch und Englisch, das ihr auf euren eigenen Servern betreiben könnt. Für Behörden und Unternehmen in Deutschland, Österreich, der Schweiz und Liechtenstein, die ihre Daten nirgendwo abgeben wollen, ein Kandidat – also testen: Fehler bei deutschen Aufgaben messen und die Betriebskosten mitrechnen.

🌑 Napoleon, Dodos und euer vergessenes Firmenwissen (30:06) — ein verschlüsselter Militärbrief aus dem Jahr 1809, 217 Jahre lang nicht vollständig lesbar, von einem KI-Modell aus einem schlechten Scan entschlüsselt. Und der Historiker Benjamin Breen hat Claude Opus 5.5 auf Akten der Niederländischen Ostindien-Kompanie angesetzt und ein Schiffslogbuch von 1615 mit Dodos auf Mauritius gefunden. Ihr sitzt alle auf Gold: zwanzig Jahre Wartungsberichte, Hunderttausende Kundenbeschwerden.

🧵 Der rote Faden (36:21) — die KI verlässt die Laborbedingungen. Im Freizeitpark trifft sie auf Kinder, im Rechenzentrum auf Nachbarn, im Einkauf auf knappen Speicher, vor Gericht auf Grenzen – und im Archiv auf Wissen, das wir bisher kaum erschließen konnten.

📱 Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904

🌐 werchota.ai

KI-Neandertaler — KI-News für Menschen, nicht für Roboter. Bleib neugierig. Bleib menschlich.