141. Anders Sandberg - AI, singulariteten och mänsklighetens nästa steg

Hur planerar man sitt liv när världen kan förändras snabbare än någon människa hinner förstå?

Anders Sandberg är forskare, filosofisk mångsysslare och framtidstänkare vid Institutet för framtidsstudier. Medan Robert funderar på vad hans barn ska arbeta med om fem eller tio år arbetar Anders med perspektiv som ibland sträcker sig miljarder år framåt.

I detta nästan tre timmar långa samtal möts de två perspektiven.

Vi rör oss från de första hemdatorerna till AI-agenter som samarbetar, löser matematiska problem och ibland beter sig på sätt som människorna bakom dem inte hade förväntat sig. Anders förklarar vad den teknologiska singulariteten innebär, varför det är så svårt att kontrollera något som är smartare än vi själva och varför hans egen uppskattning av risken för en verklig AI-katastrof ligger omkring 10 procent.

Samtidigt är Anders påfallande optimistisk. AI kan hjälpa oss att lösa enorma problem, skapa större välstånd, förlänga våra liv och kanske göra det möjligt för intelligens och liv att fortsätta långt efter att dagens människa har förändrats.

Samtalet handlar också om vad som händer med arbete och mening när maskinerna blir bättre än vi, om medborgarlön, kryonik, digitala medvetanden, genteknik, miljöetik, transhumanism och möjligheten att framtidens AI snarare blir ett helt ekosystem än en ensam allsmäktig maskin.

Det blir ett svindlande, roligt och bitvis oroande samtal om mänsklighetens största vägval – och om varför vår uppgift inte bara är att förutsäga framtiden, utan att formulera vilken framtid vi faktiskt vill ha.

För kanske är mänsklighetens historia inte på väg att ta slut. Kanske har den knappt börjat.

00:00:00 - Från fem år till en miljard år framåt
00:03:14 - Är vi den sista mänskliga generationen?
00:06:14 - Kan AI utveckla ett eget språk och en egen kultur?
00:07:22 - Optimism, undergång och singulariteten
00:11:41 - Kan AI hitta sanningen genom tillräckligt mycket data?
00:16:44 - Robotar måste lära sig genom den verkliga världen
00:22:26 - När AI-agenter började hacka systemet
00:25:32 - Förstår AI vad som är verkligt?
00:31:06 - Misstagen som mänskligheten inte kan överleva
00:33:23 - Är filosof det sista AI-säkra jobbet?
00:43:22 - Så använder Anders AI i sin forskning
00:45:00 - Hur mycket vågar vi överlåta till AI?
00:52:29 - Komplexa system och det tekniska korthuset
00:58:43 - Vad är mänskligt arbete värt när AI gör det direkt?
01:02:41 - AI-slop, kreativitet och mänskligt uttryck
01:06:02 - Därför blir expertkunskap ännu viktigare
01:09:28 - När AI börjar lösa olösta matematiska problem
01:13:31 - Har AI löst ett av matematikens största problem?
01:19:33 - Vad betyder den teknologiska singulariteten?
01:22:41 - Hur kan man tänka en miljard år framåt?
01:27:01 - AI-bubblan ovanpå en tsunami
01:28:05 - En AI som styr allt – eller intelligens åt alla?
01:32:50 - AI-guden och problemet med kontroll
01:37:11 - Vad händer med arbete, företag och mänsklig mening?
01:40:04 - Medborgarlön och risken att bli soffpotatis
01:43:04 - Är AI en individ, en svärm eller något helt annat?
01:53:10 - Kryonik, livsförlängning och digital odödlighet
01:57:48 - Är människan verkligen separerad från naturen?
02:06:15 - Genteknik, eugenik och medmänsklighet
02:14:55 - Subkulturer och framtidens samhällen
02:26:35 - Den storslagna framtiden eller den lilla mänskliga byn
02:31:29 - Anders p(doom): 10 procents risk för undergång
02:31:58 - Det mest sannolika AI-katastrofscenariot
02:37:37 - Varför pratar politikerna nästan inte om AI?
02:41:13 - Kan och bör vi bevara det mänskliga arbetet?
02:46:29 - Transhumanism och människans möjliga efterträdare
02:50:23 - Varför politiken har slutat formulera visioner
02:56:18 - Är mänsklighetens historia bara ett förspel?
02:57:09 - Anders råd till våra barn
02:59:53 - Avslutning