Microsoft pide un freno de emergencia para la IA y expertos proponen una pausa de 10 años

¿Puede la inteligencia artificial descontrolarse antes de que sepamos gobernarla? La industria y la comunidad científica empiezan a plantear medidas de contención sin precedentes.

Hoy en AI RADAR:
• **El botón de parada de Microsoft**: Satya Nadella propone un sistema de 'freno de emergencia' para intervenir modelos avanzados si actúan fuera de control.
• **Alerta existencial**: La comisión de *The Lancet* equipara el riesgo del uso malicioso de la IA al de una catástrofe nuclear hacia 2100.
• **Pausa internacional**: Investigadores de Berkeley y Stanford trazan una hoja de ruta para detener el entrenamiento de modelos de frontera durante una década.

Sources:
• The Guardian: https://www.theguardian.com/society/2026/oct/11/humans-could-become-extinct-by-2100-due-to-malicious-use-of-ai-or-nuclear-conflict
• Bloomberg: https://www.bloomberg.com/news/articles/2026-10-11/microsoft-calls-for-ai-emergency-brake-after-models-go-rogue
• UC Berkeley: https://berkeley.edu/news/2026/10/09/researchers-map-path-toward-an-international-mutually-verified-pause-of-frontier-ai-training