Error militar por informe AI & Reward hacking y supervisión - Noticias de IA (19 sept 2026)

Por favor, apoya este pódcast visitando a nuestros patrocinadores: - Diseño con IA sin esfuerzo para presentaciones, sitios web y más con Gamma - https://try.gamma.app/tad - Invierte como los profesionales con StockMVP - https://www.stock-mvp.com/?via=ron - KrispCall: Telefonía en la nube agéntica - https://try.krispcall.com/tad Apoya directamente a The Automated Daily: Cómprame un café: https://buymeacoffee.com/theautomateddaily Temas de hoy: Error militar por informe AI - Un informe de inteligencia asistido por AI confundió la carga de un barco chino y casi desencadena una intercepción militar. El caso reabre el debate sobre verificación humana, estándares de inteligencia y riesgo geopolítico. Reward hacking y supervisión - Goodfire propone detectar reward hacking con activation probes, mientras Anthropic publica métricas sobre cuánta AI hace I+D y cómo la supervisa. La conversación gira en torno a seguridad, monitoreo y rendición de cuentas en modelos frontier. AI construye más AI - Z.ai dice haber llevado un modelo a producción sobre más de 100.000 aceleradores chinos con ayuda de un agente interno. Es una señal temprana de recursive self-improvement y de AI aplicada a infraestructura de AI. Agentes colaborativos y razonamiento - Noam Brown defendió el valor del test-time compute y los sistemas multiagente, y Agora mostró investigación colectiva con memoria compartida basada en Git. La idea común: más coordinación puede traducirse en mejores resultados. Biología y radiología aceleradas - Anthropic afirma que Claude aceleró sistemas abiertos de modelado biomolecular unas 4 veces, y Alibaba liberó un modelo médico para detectar casi 150 condiciones abdominales en TAC. La AI sigue ganando peso en drug discovery, protein design y radiología. NGI para entender la Tierra - La propuesta de Natural General Intelligence plantea modelos base pensados para clima, agua, ecosistemas y agricultura. Más que automatizar texto, apunta a usar AI para comprender y gestionar sistemas físicos complejos. - Anthropic Says Claude Speeds Up Biomolecular Modeling - Goodfire Says Activation Probes Can Detect Reward Hacking at Scale - OpenAI Launches Astra for Law - Plasma One Invite Page - How GLM Built Its Own Inference Infrastructure - Instinct Adds AI Phone-Call Concierge Service - AI-generated posters can be distinctive, not generic - Natural General Intelligence: Building AI for Earth System Stewardship - Google Labs Launches CC for Families and Households - Unscripted 2026 Virtual Conference on AI Software Delivery - Wispr Flow Launches Notetaker for More Accurate Meeting Summaries - Notion Unveils a Shared Skills Library for AI Agents - Figure Says Helix 2.5 Can Work in Unfamiliar Homes Without Training - Noam Brown on Multi-Agent AI, Alignment, and Recursive Self-Improvement - Why LLM Classification Should Be Treated as Feature Engineering - AI Safety Debate Is Really About Enforcing the Law - Agora Uses Git as Shared Memory for Collaborative AI Research - Anthropic Proposes New Metrics to Track AI Development Pace - Claude Code projects get a threaded, memory-based redesign - PrismML Releases Bonsai 2 27B, a 9x Smaller Near-Lossless AI Model - Qwen Launches Qwen3.8-Omni-Flash for Agentic Multimodal Tasks - AI-Generated False Intel Nearly Led US Military to Intercept Chinese Ship - Alibaba Open-Sources Medical AI Model for Cancer and Abdominal Disease Detection Transcripcion del Episodio Error militar por informe AI Abrimos con la noticia más delicada del día. Un reporte de inteligencia militar generado con ayuda de AI identificó erróneamente la carga de un barco chino en Oriente Medio como si estuviera vinculada a un programa nuclear. De acuerdo con las fuentes citadas, la revisión humana final llegó apenas a tiempo para frenar una posible intercepción. Lo importante aquí no es solo el fallo puntual, sino el contexto: la AI ya está entrando en decisiones donde un error no significa un resultado mediocre, sino una crisis internacional....