Miguel Huerta
Estamos ante un momento existencial fascinante y perturbador a la vez. La inteligencia artificial ya no es una promesa lejana; es el aire que respiramos, el ambiente que habitamos. Decide qué noticias vemos, quién obtiene un crédito, si nuestro currículum llega a una entrevista o si recibimos cierto tipo de atención médica. Y frente a eso, las respuestas que más escuchamos son dos, y las dos se quedan cortas: el entusiasmo ingenuo (“la tecnología nos salvará, dejémosla innovar sin trabas”) y el miedo paralizante (“apaguemos todo, volvamos a un mundo sin algoritmos”).
La reciente encíclica Magnifica Humanitas del Papa León XIV propone una tercera vía, bastante más exigente y más responsable. Su tesis central se puede resumir en tres ideas que valen la pena tomarse en serio: la técnica no es neutral, regularla no es suficiente, y el mercado no nos llevará hacia el bien común.
La ilusión de la herramienta neutral
La idea de que las máquinas son simples instrumentos (buenos o malos según el uso que les demos) es una herencia ilustrada que hoy se vuelve peligrosa. Una IA no es como un cuchillo que puede servir para cortar pan o para herir: el cuchillo no lleva inscrita una visión del mundo. Un sistema de inteligencia artificial, en cambio, ya ha decidido qué variables contar, qué relaciones son causales, qué márgenes de error son aceptables y a costa de quiénes.
Cuando un algoritmo selecciona candidatos para un empleo, ya lleva incorporada una idea de qué virtudes humanas importan (la productividad medible, no la lealtad ni la capacidad de cuidado). Cuando una plataforma modera contenidos, ya ha asumido una teoría sobre la libertad de expresión. Cuando un sistema predictivo distribuye recursos públicos y sanitarios, ya ha jerarquizado implícitamente qué vidas merecen más atención y cuáles deben ser eliminadas.
Por eso el documento papal dice que la IA está más cultivada que construida: los diseñadores crean arquitecturas, pero el sistema “crece” dentro de valores implícitos que a menudo ni sus propios creadores pueden auditar del todo. Pretender que solamente hace falta “alinear” la IA con valores humanos, sin preguntarse qué valores y definidos por quién, es en el mejor caso ingenuidad, y en el peor, una forma de imponer la ética de quienes controlan los datos como si fuera el camino más universal.
Desarmar, no sólo regular
Aquí el argumento de León XIV se vuelve más radical: no basta con poner reglas, hay que “desarmar” la inteligencia artificial. León XIV usa este concepto con precisión y señala que es una de las palabras más importantes para su argumentación. Desarmarla no significa renunciar a ella, sino romper la equivalencia entre poder tecnológico y derecho a gobernar.
Estamos inmersos en una triple carrera armamentística. La militar, con sistemas autónomos capaces de decidir sobre la vida y la muerte sin intervención humana. La económica, con monopolios algorítmicos que concentran riqueza como pocas veces en la historia. Y la cognitiva, quizá la más invisible y la más íntima, con plataformas diseñadas para capturar nuestra atención, explotar nuestras fragilidades y moldear nuestros deseos y afectos sin que apenas lo notemos.
Quien controla ese ambiente ejerce un poder más continuo y penetrante que el de muchos estados totalitarios del pasado.
Desarmar la IA significa hacerla refutable, sujeta a apelación, capaz de convivir con la pluralidad de culturas y formas de vida. Significa tratar los datos como lo que realmente son: un bien común, fruto del aporte de millones de personas, no una propiedad privada que puede venderse o acumularse. Y significa hacer visible lo que está detrás de cada respuesta aparentemente mágica de un chatbot: minerales extraídos en condiciones de semiesclavitud, centros de datos que consumen agua y energía como ríos, trabajadores invisibles (la mayoría del Sur Global) etiquetando y creando contenido traumático por salarios de miseria y que enriquece a grandes corporaciones.
El mercado no alcanza
La tercera idea completa el cuadro: no podemos delegar esta tarea en el mercado. La creencia de que la “mano invisible” convertirá el interés privado en bienestar general es, a estas alturas, una superstición cara. La globalización de las últimas décadas no trajo paz ni democracia espontáneas; trajo concentración de riqueza, reacciones nacionalistas y un desorden geopolítico que todavía no sabemos cómo nombrar. La IA acelera ese proceso: por defecto, favorece a quienes ya tienen capital, datos y competencias.
La innovación no es neutral en sus efectos distributivos, y el mercado no resuelve el desempleo tecnológico. Si la única lógica es reducir costes, la automatización eliminará empleos sin crear otros equivalentes, y las consecuencias recaerán sobre las personas y comunidades más vulnerables.
Lo que se necesita es política (no como intervencionismo caprichoso, sino como capacidad colectiva de decidir qué desarrollo queremos, con qué criterios, y qué límites poner a la maximización del beneficio cuando choca con la vida concreta de las personas). El principio de subsidiariedad que invoca la encíclica es relevante aquí: las decisiones deben tomarse en el nivel más cercano posible a las y los afectados. Pero hoy la amenaza no viene del Estado centralista, sino de plataformas que deciden sobre comunidades enteras desde oficinas en California o Pekín, sin que esas comunidades tengan voz ni voto.
Babel o Jerusalén
La encíclica inicia y cierra con una imagen que me parece poderosa y honesta: estamos eligiendo entre dos ciudades.
Babel es la ciudad del orgullo, la uniformidad y la autosuficiencia. Una sola lengua, una sola tecnología, un solo poder. Su final ya lo conocemos: dispersión, confusión, incomunicación.
Jerusalén es la ciudad que se reconstruye ladrillo a ladrillo, con responsabilidad compartida, escuchando a los más débiles, con la y el prójimo en el centro. Con las comunidades viviendo y construyendo juntas el bien común.
La inteligencia artificial no es ninguna de las dos ciudades. Es el material con el que podemos levantar una u otra. Pero no es un material neutro: viene con peso, con historia, con inercia. Desarmarla, democratizarla, orientarla al bien común no es una tarea para filósofos/filósofas o teólogas/teólogos en sus despachos. Es la tarea política y ética más urgente de este momento. Y es para todos y todas.
Porque lo que está en juego no es la eficiencia de nuestros sistemas. Es si la humanidad que hemos recibido como herencia seguirá siendo reconocible cuando la miremos reflejada en nuestras propias herramientas y máquinas digitales.
© Acción Ética — Espacio de análisis filosófico, crítica cultural y pensamiento político. Reproducción permitida citando la fuente.
Acción ética 