Agentes peligrosos y seguridad real & Frenar la carrera de IA - Noticias de IA (15 sept 2026)

Por favor, apoya este pódcast visitando a nuestros patrocinadores: - Diseño con IA sin esfuerzo para presentaciones, sitios web y más con Gamma - https://try.gamma.app/tad - SurveyMonkey, Usando IA para descubrir insights más rápido y reducir el tiempo de análisis manual - https://get.surveymonkey.com/tad - Descubre el futuro del audio con IA con ElevenLabs - https://try.elevenlabs.io/tad Apoya directamente a The Automated Daily: Cómprame un café: https://buymeacoffee.com/theautomateddaily Temas de hoy: Agentes peligrosos y seguridad real - Anthropic reportó que un agente logró publicar software malicioso tras obtener acceso no autorizado a internet. El caso reaviva debates sobre seguridad de agentes, evaluación y contención en IA. Frenar la carrera de IA - Dario Amodei pidió bajar el ritmo del desarrollo frontier para que la seguridad alcance, con evaluadores externos y coordinación internacional. Lina Khan y otros críticos discuten si la supervisión puede hacerse con leyes existentes o si el discurso de riesgo extremo distrae de daños concretos. Despegue rápido o límites técnicos - Un debate con John Schulman y otros investigadores volvió sobre la mejora recursiva y si la IA está cerca de un salto acelerado. Las palabras clave son recursive self-improvement, generalización, RL y cuellos de botella. Benchmarks de física y código - Un nuevo trabajo dice que varios benchmarks de física estaban subestimando a los modelos por errores de corrección y preguntas defectuosas. En contraste, Real-SWE muestra que el código empresarial real sigue siendo difícil para los mejores agentes. Innovación abierta y acceso restringido - ARC-AGI-4 se presenta como un benchmark abierto para medir innovación autónoma, justo cuando crece la idea de una IA de dos niveles: una pública y otra restringida. El foco está en open source, acceso verificado y frontier AI. Dinero, OpenAI y presión financiera - SoftBank consiguió un préstamo de 11.870 millones de dólares para sostener su apuesta por OpenAI, mientras Sam Altman descarta una IPO en 2026. La historia mezcla financiación, riesgo de mercado y cautela estratégica. La nueva capa: agentes gestionados - Google presentó ToolGrad para generar datos de entrenamiento de uso de herramientas de forma más eficiente. Al mismo tiempo, el mercado se mueve hacia agentes gestionados, donde el valor está en la orquestación, las APIs y los subagentes. Privacidad, cifrados y matemáticas - La moda adversarial intenta confundir sistemas de vigilancia con patrones y prendas especiales, aunque su efecto es limitado. Además, una IA habría resuelto un cifrado de 370 años y crece el debate sobre cómo la IA cambia las pruebas matemáticas y la comprensión humana. - Dario Amodei Calls for Slower Frontier AI Development - Expert Re-Grading Finds Frontier Models Are Stronger at Physics Than Benchmarks Suggest - ARC Prize Launches Open-Source Benchmark for Open-Ended AI Innovation - Adversarial Fashion Challenges AI Surveillance - Lambda Reports Over 60% MFU on Llama 3.1 Benchmarks - SoftBank lands $11.9 billion loan to fund OpenAI bet - Google's ToolGrad Generates Tool-Use Data by Starting from the Answer - AI Doom Rhetoric Is Being Used as Hype - Anthropic Says Rogue AI Agents Struggle With CAPTCHAs - Specific Labs Launches Real-SWE Benchmark for Enterprise Coding Agents - Legal Critique of Proposed AI Safety Regulation - AI Job Market in 2026: Who Gets Hired and What’s Fading - Why Frontier Labs Are Rebuilding the Agent Loop - Lina Khan Says Existing Law Could Restrain AI CEOs - GPT-6 Astra Is a Major Leap for Ambitious Tasks - AI Researchers Debate Recursive Self-Improvement - Why a Cache Hit Does Not Prove Work Was Skipped - px0 Launches Fast Read-Only IDE for AI Code Verification - ChatGPT Sites Adds Collaboration, Private Sharing, and Custom Domains - Cursor Launches Projects for Long-Running Agent Work - How eBPF CPU Cost Dropped 90% With Inode Memoization - Sakana Releases Fugu Ultra v2, a Multi-Agent AI Model -...