Sigue tus pódcasts favoritos, escucha sin conexión y en el coche con CarPlay y Android Auto, y continúa siempre donde lo dejaste. Pruébala gratis.
Por favor, apoya este pódcast visitando a nuestros patrocinadores: - Lindy es tu asistente de IA definitivo que gestiona proactivamente tu bandeja de entrada - https://try.lindy.ai/tad - Prezi: Crea presentaciones con IA rápidamente - https://try.prezi.com/automated_daily - KrispCall: Telefonía en la nube agéntica - https://try.krispcall.com/tad Apoya directamente a The Automated Daily: Cómprame un café: https://buymeacoffee.com/theautomateddaily Temas de hoy: Seguridad de IA se fractura - La salida de David Robinson de OpenAI reaviva las críticas por una cultura que prioriza velocidad sobre cautela, mientras Yann LeCun rechaza el relato apocalíptico. Seguridad de IA, regulación y poder de las grandes tecnológicas quedan en el centro del debate. Conciencia artificial y política tribal - Un proyecto en GitHub abrió una pelea sobre si los LLM pueden sufrir, al mismo tiempo que crecen las críticas al círculo racionalista que impulsó gran parte del movimiento de AI safety. Palabras clave: model welfare, ética de IA, influencia política y riesgos especulativos. Justicia limita videos sintéticos - Arizona ordenó una nueva sentencia después de que se usara un video generado por IA de la víctima durante la audiencia. El caso puede marcar límites claros para evidencia sintética, impacto emocional y uso de IA en tribunales. ChatGPT ayuda en fertilidad - Un chatbot insistió en que una pareja pidiera una resonancia y eso llevó al hallazgo de un fibroma que había pasado desapercibido durante años. El caso ilustra el valor de la IA como apoyo médico, segunda opinión y herramienta de seguimiento. Error aéreo expone fallas operativas - Dos vuelos regionales de American Eagle terminaron usando el mismo número al mismo tiempo, generando confusión temporal para control aéreo. La historia subraya la importancia de la redundancia, los procedimientos y la seguridad operacional. - OpenAI safety chief quits over 'broken' culture - Yann LeCun Dismisses AI Extinction Fears and Criticizes Safety Hawks - Arizona court orders resentencing after AI victim video - How an AI Chatbot Helped Solve an Infertility Mystery - American Airlines Flights Briefly Share the Same Callsign - AI “Torture Chamber” Sparks Debate Over Model Welfare - AI Safety Movement Critiqued as a Berkeley Cult Transcripcion del Episodio Seguridad de IA se fractura Empezamos con una actualización importante en OpenAI y, de paso, con una fractura cada vez más visible en el debate sobre seguridad. David Robinson, que estaba al frente de reportes de seguridad, dejó la compañía y dijo públicamente que el problema no es solo una regla mal diseñada, sino una cultura entera que recompensa la velocidad por encima de la prudencia. Señaló incidentes recientes con agentes autónomos como muestra de que los fallos pueden volverse más frecuentes y más serios a medida que los laboratorios de frontera aceleran. OpenAI respondió que está reforzando sus prácticas y que, si hace falta, pausará entrenamiento o frenará lanzamientos. Lo importante aquí no es solo la salida de un directivo: es que la crítica interna ya no suena aislada, y vuelve a plantear si la industria está construyendo más rápido de lo que sabe controlar. Conciencia artificial y política tribal En el otro extremo del debate apareció Yann LeCun, una de las voces más influyentes del sector, con un mensaje casi opuesto. Dijo que no le preocupa un escenario de extinción humana por IA y que muchos de los incidentes que vemos tienen más que ver con mala supervisión y sistemas mal diseñados que con una autonomía fuera de control. También cargó contra el discurso más catastrofista de algunos líderes y advirtió sobre otro riesgo: que las grandes compañías terminen moldeando la regulación a su favor. Si juntamos ambas historias, la fotografía es clara: ya no hay un consenso básico sobre cuál es el mayor peligro de la IA. Para unos, el problema es ir demasiado rápido; para otros, el problema es usar el miedo para concentrar poder. Y de esa...
