Astra la Vista, AGI?! Warum plötzlich alle über existenzielle KI-Risiken und Gefahren sprechen... — Die KI Woche - mit Markus M. Kirchmair

Aus einem Screenshot wird eine spielbare Welt: Thomas Seiger und Markus Kirchmair diskutieren die Fähigkeiten von Astra und die Frage, wie nah wir allgemeiner künstlicher Intelligenz, kurz AGI, bereits sind. Im Mittelpunkt stehen Spieleentwicklung, Simulationen und die Bedienung von Software durch KI.

Doch mit den Möglichkeiten wachsen die Sicherheitsfragen: Wie behalten wir leistungsfähige Systeme unter Kontrolle? Was bringt ein Not-Aus-Schalter? Und wie beeinflussen die Warnungen aus der KI-Branche die öffentliche Debatte über Regulierung?

Außerdem geht es um offene KI-Modelle, Nvidias Rolle und mögliche Folgen für Arbeitsplätze und Wirtschaftswachstum. Zum Schluss wird es alltagsnah: Wie verändern KI-generierte Inhalte unsere sozialen Medien, und was passiert mit Vertrauen, wenn Spam, Betrugsnachrichten und gefälschte Stimmen immer überzeugender werden?

Das nehmt ihr mit

Astra und die AGI-Frage: Welche Fähigkeiten Thomas und Markus besonders beeindrucken und warum sie darin einen großen Fortschritt sehen.
Spielewelten aus Bildern: Wie KI neue Möglichkeiten für Spieleentwicklung und Simulationen eröffnet.
Offene Modelle und Regulierung: Welche Rolle Nvidia spielt und welche Spannungen zwischen Wettbewerb, Zugänglichkeit und Sicherheit entstehen.
Kontrolle und Missbrauch: Warum die beiden bezweifeln, dass ein Not-Aus-Schalter allein sämtliche Risiken lösen könne.
Wirtschaft und Arbeit: Welche möglichen Entwicklungen die besprochenen Szenarien für Beschäftigung und Wachstum beschreiben.
Vertrauen im Alltag: Wie KI Spam, Betrug und die gezielte Manipulation von Menschen erleichtern könnte.

Kapitel

00:00 Astra la Vista: Spielewelten, neue Fähigkeiten und die AGI-Frage
14:05 Sicherheitswarnungen und die Debatte über KI-Regulierung
20:01 Nvidia, offene KI-Modelle und mögliche Einschränkungen
21:24 Kontrollverlust und die Grenzen eines KI-Not-Aus-Schalters
25:26 KI, Arbeitsplätze und Wirtschaftswachstum
33:41 Neue Möglichkeiten für KI-Bildbearbeitung und Grafikdesign
37:44 Offene KI-Modelle und die Zukunft der Softwareentwicklung
41:35 Soziale Medien, gefälschte Stimmen und KI-Betrug