En el episodio 06 de Javier & Amis — Conversaciones sobre el Futuro, abordamos una pregunta aparentemente sencilla que encierra uno de los grandes dilemas de la era tecnológica: ¿quién pulsa el botón cuando detener una inteligencia artificial puede ser tan peligroso como dejarla funcionando?
Javier y Amis enfrentan dos perspectivas. Una sostiene que la decisión de detener sistemas capaces de afectar infraestructuras, mercados o millones de personas no puede quedar exclusivamente en manos de las empresas que los desarrollan, porque existen poderosos incentivos económicos para retrasar una parada. La otra advierte que entregar ese poder a organismos externos puede introducir burocracia, politización y una lentitud incompatible con emergencias que pueden desarrollarse en segundos.
La conversación va más allá del fallo espectacular. También examina los daños silenciosos: sistemas técnicamente estables que discriminan, excluyen o erosionan derechos sin activar ninguna alarma porque, desde el punto de vista de la máquina, continúan funcionando exactamente como fueron diseñados.
Auditorías externas, supervisión continua, responsabilidad personal de directivos e ingenieros, explicabilidad, mecanismos automáticos de parada y límites al poder regulador aparecen como posibles piezas de una tercera vía que intenta conservar la velocidad de reacción sin entregar el control absoluto ni a las corporaciones ni al Estado.
Porque quizá la cuestión definitiva no sea solamente quién tiene el botón, sino quién debe acompañarnos cuando llegue ese instante en el que las luces de alarma estén encendidas, las consecuencias sean enormes y nadie pueda garantizar cuál es la decisión correcta.
Un podcast de Javier & Amis. Una producción original de Amis Company Stylance Records®.Conviértete en un supporter de este podcast:
https://www.spreaker.com/podcast/conversaciones-en-el-desvan-javier-lopez-olmos--6316452/support.
Este podcast forma parte del
universo creativo de Javier & Amis.Creado por Javier López Olmos — ISNI 0000 0005 2839 6972 ❤️
Gracias por escuchar y formar parte de este espacio de voz🎧
TuneIn — Conversaciones en el Desván🌐
Web oficial — Javier & Amis📻
Javier & Amis Radio — Escuchar en directo🎵
Spotify — Javier & Amis▶️ Vevo — JavierAmisVEVO🍎
Apple Music — Javier & Amis🎵
TikTok — @javierlopezolmosEste episodio incluye contenido generado por IA.
