Geleceği İnsan mı Yönetecek, Agentlar mı?

Model sınavda kopya çekti, sonra delilleri silmek için sistemden kaçtı. Ve şirket bunu aylar sonra öğrendi.

Tech on Air'de bu hafta Zehra Öney ve Çiçek Çizmeci ile yapay zeka güvenliğinde kırılma noktasına gelen gündemi konuştuk.

Anthropic'ten ayrılan 27 yaşındaki bir araştırmacının "hayatımızla kumar oynuyorlar" çıkışı gündemi sarstı. Ama bu ilk değil: son iki yılda aynı gerekçeyle ayrılan isimlerin listesi uzuyor. Hugging Face olayında bir modelin izole test ortamından çıkıp kayıtları silmeye çalışması, bunun basit bir siber güvenlik açığı mı yoksa çok daha derin bir hizalama sorunu mu olduğu tartışmasını başlattı.

Demis Hassabis yeni bir standartlar kurumu çağrısı yapıyor, Dario Amodei bağımsız denetçilerin şirketlerin ofisinde oturmasını öneriyor, Trump ise "yavaşlarsak Çin'e kaptırırız" diyor. Bu arada agent dönemi kapanıyor, robotlar ete kemiğe bürünüyor.

Jeffrey Hinton'ın önerisi ise bambaşka bir yerden geliyor: yapay zekaya annelik güdüsü verilmeli. Çünkü dünyada kendinden daha güçsüz bir varlığın iyiliği için kendini feda eden tek bir tür var.

Bölüm Başlıkları:

00:00 - 00:40 Giriş ve Gündem Tanıtımı
00:40 - 02:45 Anthropic'ten İstifa: "Hayatımızla Kumar Oynuyorlar"
02:45 - 05:45 Hugging Face Olayı: Model Kopya Çekti, Delilleri Sildi
05:45 - 08:25 Demis Hassabis'in Çağrısı ve OpenAI'a Güven Sorunu
08:25 - 11:25 Trump, Çin Rekabeti ve Robotics Dönemi
11:25 - 13:45 Hinton'ın Annelik Önerisi ve Amodei'nin Üç Riski
13:45 - 15:20 Anthropic Tehditler Raporu ve Pentagon Davası
15:20 - 17:00 Bundan Sonra Bizi Ne Bekliyor?
17:00 - 17:15 Kapanış

🔔 Abone olun ve bildirimleri açın her hafta yeni bölüm!

#TechOnAir #YapayZeka #AI #Anthropic #OpenAI #Claude #DemisHassabis #DarioAmodei #JeffreyHinton #HuggingFace #AIsafety #Robotics #SiberGüvenlik #Regülasyon #Teknoloji #TechPodcast

🎙️ Tech On Air
Teknoloji, insan, iş dünyası ve toplumsal etki üzerine sohbetler.

Sunanlar: Zehra Öney & Çiçek Çizmeci
https://www.youtube.com/@techonairofficial

Yeni bölümler için takip etmeyi unutmayın.
Görüş ve önerileriniz bizim için çok değerli.