#41 - Ist ein bisschen Schaden okay? Die KI-Chefs streiten über Gefahr

Sam Altman sagt, die Welt solle „einige schlechte Dinge“ hinnehmen – zum Wohle der KI. In derselben Woche lädt New York KI-Whistleblower unter Eid vor, Nordkorea behauptet, seine neue Rakete werde von KI gesteuert, und Chinas beste Modelle liegen nur noch etwa drei Prozent hinter den amerikanischen.

Heute geht es um eine Frage: Wer entscheidet, wie viel Gefahr okay ist – die Leute, die KI bauen, oder wir alle?

In dieser Folge:

🌑 Sam Altman: „some bad things“ (01:56) — im Interview mit Politico sagt der OpenAI-Chef, die Welt solle hinnehmen, dass „einige schlechte Dinge passieren“, zum Wohle dieser Technologie und dafür, dass Menschen frei entscheiden können. Ist das verrückt? Einerseits ja. Andererseits ist es mutig: Unter den Tech-Chefs versteckt er sich am wenigsten.

🌑 New York nimmt KI unter Eid (06:26) — alle 51 Mitglieder des New Yorker Stadtrats halten eine Anhörung zur KI-Sicherheit ab, mit Aussagen unter Eid. Eingeladen sind Whistleblower wie Jacob Coxon (früher Anthropic), Daniel Kokotajlo (früher OpenAI) und Alex Turner (früher Google DeepMind). Auf dem Tisch: externe Prüfungen für KI in der städtischen Infrastruktur – und ein Recht zu klagen, wenn eine fehlerhafte KI dir schadet.

🌑 China fast gleichauf, Hongkong sammelt Rekordgeld (10:11) — laut Bloomberg Intelligence liegen die besten chinesischen Modelle nur noch etwa drei Prozent hinter den US-Modellen; im Mai waren es neun, Anfang des Jahres fünfzehn. DeepSeeks V4.1 Flash liegt auf LiveBench knapp hinter Claude Fable 5.1. Und Firmen in Hongkong haben von Juli bis September 47,5 Milliarden Dollar mit Aktien eingesammelt – so viel wie noch nie in drei Monaten. Kapital für KI war nie billiger.

🌑 Nordkorea sagt, seine Rakete wird von KI gesteuert (15:34) — am Samstag startete Nordkorea eine Rakete nahe Wonsan; laut Südkorea flog sie über 700 Kilometer. Kim Yo Jong, die Schwester des Machthabers, behauptet, dank KI könne sie ihre Flugbahn auch in niedriger Höhe ändern und sei schwerer abzufangen. Ob das stimmt, weiß noch niemand. Sicher ist: KI in Rüstungstechnik einzubauen ist sehr billig geworden.

🌑 Die Telekom will ein KI-Konzern sein (19:21) — beim AI Investors Day will die Deutsche Telekom Investoren überzeugen, Konzernchef Tim Höttges nennt sich den größten KI-Optimisten. Das Handelsblatt zitiert vier Insider: Die Investoren sind noch nicht überzeugt. Oben ist man voll KI, unten sind die Leute noch nicht mitgenommen – das sehe ich jeden Tag in Firmen.

🌑 VW wählt angeblich Wayve statt Nvidia (21:09) — laut Spiegel hat Volkswagen rund ein Dutzend Anbieter für Software für selbstfahrende Autos getestet und sich angeblich für das britische Start-up Wayve entschieden, nicht für Nvidia. Meine Lesart: Firmen kaufen oft nicht die stärkste KI, weil die stärkste KI verändert, wer die Arbeit macht – auch in der eigenen IT.

🌑 #TeamHuman: YouTuber wollen KI bremsen (24:07) — Creator wie Mark Rober (83,1 Millionen Abonnenten) und Kurzgesagt aus München (25,6 Millionen) fordern, die stärksten KI-Chips zu verfolgen und zu begrenzen wie Material für Atomwaffen, und eine internationale KI-Aufsicht. Ich verstehe die Sorge. Aber dieser Zug ist abgefahren.

🌑 Schneider Electric vor 20-Milliarden-Deal (27:05) — der französische Industriekonzern steht laut Financial Times kurz davor, PTC aus Boston zu kaufen, Software zum Entwerfen von Produkten und Steuern von Fabriken: rund 20 Milliarden Dollar in bar, der größte Kauf der Firmengeschichte, noch unkommentiert. Europas Industrieriesen werden dasselbe machen müssen – und es wird sie sehr viel Geld kosten.

🧵 Der rote Faden (28:50) — Altman sagt: hinnehmen. New York sagt: unter Eid aussagen. YouTuber wollen ein Tempolimit. Die Gefahr ist da. Aber in euren Firmen: Wer entscheidet, wie viel Gefahr euren Mitarbeitern zugemutet wird – der externe Berater, der KI-Evangelist, die IT?

📱 Schreib Malcolm auf WhatsApp/Telegram/Signal: +43 676 6144 904

🌐 werchota.ai

KI-Neandertaler — KI-News für Menschen, nicht für Roboter. Bleib neugierig. Bleib menschlich.