Ludzkości zostało 10 lat?

Ludzkości zostało 10 lat?

Czy sztuczna inteligencja może doprowadzić do zagłady ludzkości jeszcze w tej dekadzie? Jacob Coxon, były badacz OpenAI i Anthropic, mówi w CNN, że taki scenariusz jest realny. Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów współczesnej AI, w BBC „Newsnight” przyznaje, że 10% ryzyka nie uważa za nieracjonalny szacunek.

☕ WESPRZYJ MOJĄ PRACĘ

Jeśli cenicie takie materiały i chcecie pomóc mi tworzyć kolejne, możecie wesprzeć „Radek Kobiałko Nadaje” na Patronite, postawić mi wirtualną kawę albo przybić wirtualną piątkę.

🤝 Patronite:
https://patronite.pl/RadekKobialkoNadaje

☕ Buy Me a Coffee:
https://buymeacoffee.com/lxg64uv

✋ Suppi:
https://suppi.pl/radekkobialkonadaje

W tym odcinku omawiam mój tekst o coraz mocniejszych ostrzeżeniach ludzi pracujących przy najbardziej zaawansowanych systemach AI oraz dwie rozmowy z ostatnich godzin: Jacoba Coxona z Andersonem Cooperem w CNN i Geoffreya Hintona z Victorią Derbyshire w BBC „Newsnight”.

Coxon ostrzega przed momentem, w którym AI zacznie wykorzystywać własne możliwości do prowadzenia badań nad kolejnymi generacjami AI. Mówi o „eksplozji inteligencji”, atakach na infrastrukturę krytyczną, cyberatakach i możliwości projektowania broni biologicznej. Jednocześnie zaznacza, że dzisiejsze modele nie stanowią jeszcze jego zdaniem zagrożenia dla istnienia ludzkości. Problemem jest tempo, w jakim rosną ich możliwości.

Evan Hubinger, kierujący w Anthropic badaniami nad zgodnością działania AI z ludzkimi celami i wartościami, publicznie ocenia ryzyko, że AI zabije wszystkich ludzi w ciągu najbliższej dekady, na ponad 10%. Geoffrey Hinton pytany o podobny szacunek odpowiada: „Dziesięć procent nie wydaje mi się nieracjonalnym oszacowaniem”.

Rozmawiamy też o tym, dlaczego największe firmy AI same zaczynają domagać się regulacji, czym jest rekurencyjne samodoskonalenie, dlaczego bezpieczeństwo może nie nadążać za możliwościami modeli oraz co wcześniej mówili Jakub Pachocki, Sam Altman i inni ludzie znajdujący się najbliżej tej technologii.

Bez paniki i bez science fiction. Fakty, wypowiedzi ludzi z branży i pytanie, którego coraz trudniej nie zadawać: czy potrafimy kontrolować technologię, którą rozwijamy szybciej niż kiedykolwiek wcześniej?

🎧 Wszystkich odcinków „Radek Kobiałko Nadaje” możecie słuchać również na:
https://radekkobialkonadaje.pl

Jeśli słuchacie na Spotify, kliknijcie Obserwuj. W Apple Podcasts dodajcie podcast do subskrypcji, żeby nie przegapić kolejnych odcinków.