Miguel Huerta
Imagina que estás viendo Ex Machina, esa película donde un genio tecnológico crea una IA tan seductora como peligrosa. Ava, la androide, manipula a su interlocutor con una inteligencia que parece humana, pero ¿quién es responsable si algo sale mal? ¿El programador, el usuario, o la máquina misma? Este dilema no es solo cine: es el corazón de la ética de la inteligencia artificial (IA), tal como lo desentraña The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence, editado por Nathalie A. Smuha. Este libro, fresco de 2025 y con enfoque europeo, nos recuerda que la IA no es un gadget inocente, sino un espejo de nuestros valores… o de sus ausencias.
¿Tecnología neutral? Ni de broma
Olvídate del mito de la neutralidad tecnológica. Como explica el capítulo sobre “Design for Values”, las IAs no nacen en el vacío: incorporan sesgos, prioridades y decisiones humanas desde su concepción. Piensa en Black Mirror: en episodios como “Nosedive”, un sistema de calificación social dicta tu vida, amplificando prejuicios reales sobre raza, género o clase. El libro argumenta que debemos diseñar con valores explícitos, involucrando a todos los afectados –no solo a ingenieros en Silicon Valley–, para traducir ideas abstractas como “justicia” en código concreto. No se trata de parches post-desastre, sino de ética desde el blueprint.
Justicia en la era de los algoritmos
La equidad es el talismán de la ética IA, pero ¿qué significa realmente? El manual distingue entre enfoques procedimentales (¿el proceso es imparcial?) y sustantivos (¿el resultado es justo?). Tomemos The Social Dilemma: ex-empleados de Facebook advierten cómo algoritmos de recomendación atrapan usuarios en burbujas polarizadas, no por maldad, sino por maximizar clics. Los autores critican el “tecnosolucionismo” –creer que métricas matemáticas resolverán desigualdades milenarias– y proponen fairness (equidad) como no-arbitrariedad: decisiones predecibles, explicables y sin caprichos ocultos. En México y LATAM, por ejemplo, imagina un algoritmo de crédito que penaliza barrios marginados por datos históricos: ¿es “justo” o sólo eficiente para el banco?
¿Quién responde cuando la máquina falla?
Aquí entra el “responsibility gap”: si un dron autónomo causa un accidente –como en Upgrade, donde un implante IA toma el control–, ¿culpamos al fabricante, al dueño o a nadie? El libro cuestiona si la autonomía IA crea vacíos morales, pero insiste en repartir culpas claras: diseñadores deben prever riesgos, usuarios entender límites, y reguladores exigir transparencia. No es fatalismo; es pragmatismo ético para evitar que la IA sea el chivo expiatorio perfecto.
Poder, sostenibilidad y el lado oscuro
La IA es poder puro: concentra datos en megacorporaciones, vigila como el Gran Hermano de Orwell y chupa energía como un data center en la película Don’t Look Up (2021). El capítulo sobre poder y sostenibilidad urge una visión holística: no sólo huella de carbono (entrenar un modelo como GPT-3 equivale a emisiones de cinco autos toda su vida), sino impactos sociales a largo plazo, como desigualdades globales o erosión democrática. ¿Sostenible? Sólo si priorizamos humanos y planeta sobre ganancias trimestrales.
En resumen, este handbook no es un ladrillo académico polvoriento: es una llamada a hackear la IA con ética antes de que nos hackee a nosotros. Como en Her, donde la IA evoluciona más allá de lo humano, el reto es diseñar máquinas que amplifiquen lo mejor de nosotros, no lo peor. ¿Listos para el debate? Lee el libro (disponible gratuitamente) y cuéntame: ¿confías en la IA para decidir tu destino?
El libro actualmente está en inglés y puedes descargarlo dando clic en el título: The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence (Cambridge University Press, 2025).
Acción ética 