OpenAI frena el modelo Astra por riesgo cibernético y Google lanza agentes

¿Deberíamos pausar el desarrollo de la IA cuando cruza la línea del peligro extremo?

OpenAI ha encendido las alarmas tras detectar riesgos cibernéticos de nivel "Crítico" en las pruebas internas de su próximo modelo Astra, obligando a ralentizar su despliegue y reforzar la seguridad. Además, analizamos cómo Google Cloud está empezando a delegar el trabajo de los ingenieros de arquitectura de datos a **agentes autónomos**, y desglosamos la nueva propuesta de la FDA para regular la IA generativa en dispositivos médicos de alto riesgo.

Sources:
• OpenAI: https://openai.com/index/pacing-model-development-in-an-era-of-cyber-critical-capabilities/
• The Information: https://theinformation.com/articles/google-says-its-ai-can-do-the-work-of-forward-deployed-engineers
• FDA: https://www.fda.gov/news-events/press-announcements/fda-releases-discussion-paper-on-considerations-for-regulation-of-generative-ai-enabled-medical-devices