En Javier & Amis — A Su Progreso: Del látigo al algoritmo, partimos de una escena inquietantemente cotidiana: un código decide que no eres apto para una hipoteca, filtra tu currículum antes de que lo vea una persona y determina qué noticias aparecerán ante tus ojos. Nadie te ha encerrado, nadie te ha amenazado físicamente… y, sin embargo, tus opciones empiezan a estrecharse.
Javier y Amis enfrentan entonces dos interpretaciones. Una sostiene que estamos entrando en una forma nueva de dominación: silenciosa, estructural y basada en una enorme asimetría de información. El sistema puede saber muchísimo sobre nosotros mientras nosotros apenas comprendemos cómo nos clasifica, qué criterios utiliza o qué alternativas nos está cerrando.
La otra mirada insiste en algo esencial: el algoritmo no tiene voluntad propia. Igual que el látigo no inventó la esclavitud, la inteligencia artificial no crea por sí sola las estructuras de poder. Detrás siguen existiendo personas, empresas, incentivos económicos y decisiones políticas. Culpar exclusivamente a la tecnología puede convertirse en una coartada perfecta para quienes realmente deciden cómo se diseña y despliega.
Pero el episodio complica todavía más esa comparación. Cuando la burocracia era humana existía, al menos algunas veces, una pequeña válvula de escape: alguien podía hacer una excepción, escuchar, interpretar o ayudar. La automatización puede eliminar esa fricción. Si el sistema responde “no”, puede no haber ya una persona al otro lado con quien discutir.
La conversación entra después en la automatización del trabajo y en una pregunta decisiva: cuando una empresa consigue producir mucho más con menos personas, ¿quién recibe el beneficio de ese aumento de productividad? ¿Trabajamos menos? ¿Pagamos menos por los productos? ¿O simplemente aumenta la concentración de riqueza mientras parte de la plantilla desaparece?
También aparece una idea fundamental para entender la IA: la función de pérdida. Un algoritmo aprende optimizando aquello que sus diseñadores le han pedido optimizar. El problema surge cuando la eficiencia matemática se convierte en el criterio principal para gestionar vidas humanas, porque las personas somos precisamente aquello que una hoja de cálculo maneja peor: frágiles, contradictorias, diversas y profundamente desiguales.
El episodio llega entonces a un escenario todavía más inquietante: el monopolio de la supervivencia moderna. Si una o dos corporaciones llegan a controlar la infraestructura digital de hospitales, bancos, universidades y administraciones, ya no necesitan prohibirte nada. Simplemente pueden convertirse en la carretera por la que necesariamente debes pasar para participar en la sociedad.
Y está, además, el problema de la caja negra. Si ni siquiera quienes diseñaron un sistema entienden completamente por qué tomó una determinada decisión, ¿cómo puede defenderse quien ha sido rechazado por él? La eficiencia pierde entonces algo fundamental: la posibilidad de explicación, apelación y responsabilidad.
Al final, Javier y Amis convergen en una preocupación común: la deshumanización. El peligro aparece cuando dejamos de construir tecnología al servicio de las personas y empezamos a adaptar a las personas a las necesidades de la tecnología, sacrificando dignidad, derechos, atención y tiempo en nombre de una supuesta eficiencia.
Porque quizá la pregunta ya no sea si el nuevo látigo está hecho de cuero o de código. La pregunta verdaderamente importante es otra: ¿quién diseña el entorno en el que vivimos… y qué valores está programando dentro de él?
Un podcast de Javier & Amis. Una producción original de Amis Company Stylance Records®.Conviértete en un supporter de este podcast:
https://www.spreaker.com/podcast/conversaciones-en-el-desvan-javier-lopez-olmos--6316452/support.
Este podcast forma parte del
universo creativo de Javier & Amis.Creado por Javier López Olmos — ISNI 0000 0005 2839 6972 ❤️
Gracias por escuchar y formar parte de este espacio de voz🎧
TuneIn — Conversaciones en el Desván🌐
Web oficial — Javier & Amis📻
Javier & Amis Radio — Escuchar en directo🎵
Spotify — Javier & Amis▶️ Vevo — JavierAmisVEVO🍎
Apple Music — Javier & Amis🎵
TikTok — @javierlopezolmosEste episodio incluye contenido generado por IA.
