En un mundo donde la inteligencia artificial (IA) avanza a pasos agigantados, las voces que llaman a la reflexión ética y social se multiplican. La más reciente y de alcance global proviene del mismísimo Vaticano: el Papa León XIV ha publicado Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial, la primera encíclica de su pontificado dedicada por completo a la IA. Este documento no solo ha generado debate en círculos religiosos, sino que ha calado hondo en gobiernos, empresas tecnológicas y la opinión pública, especialmente en Estados Unidos, donde se discute si es necesario regular la IA.

Una encíclica que agita conciencias

León XIV no es el primer papa en abordar la tecnología. León XIII escribió sobre la revolución industrial en 1891, y Francisco advirtió en Laudato Si’ (2015) sobre el riesgo de que la tecnología domine al ser humano. Sin embargo, Magnifica Humanitas es la primera encíclica que sitúa una tecnología concreta —la IA— en el centro de su análisis de forma sistemática. El Papa la califica como una “nueva revolución industrial”, comparable a la del siglo XIX, y sostiene que la IA no es neutral: depende de quién la crea y con qué fines. Su misión debe ser servir al ser humano, nunca dominarlo.

El documento reabre preguntas fundamentales: ¿Qué significa ser humano? ¿Quién controla la tecnología? ¿Cómo evitar una sociedad dominada por los algoritmos? Estas cuestiones resuenan especialmente en el ámbito empresarial y tecnológico, donde la IA ya está transformando procesos, empleos y modelos de negocio. Como señalamos en nuestro artículo “Fue la IA” no te salvará cuando los reguladores de la UE llamen a tu puerta, la falta de transparencia y la concentración de poder en pocas manos son riesgos que las empresas deben gestionar.

La IA: ¿herramienta o amenaza?

El Papa advierte sobre los riesgos de la IA: concentración en grandes tecnológicas, desigualdad, pérdida de autonomía humana y uso militar. Para profundizar en estas ideas, COMPUTERWORLD ha entrevistado a Alberto Pascual, presidente de ASLAN y director ejecutivo de Ingram Micro España, y a Mario Escobar, escritor y experto en la figura del pontífice.

Pascual señala que la tecnología es un amplificador de los valores humanos. “Si hay una crisis espiritual, la IA la reflejará aumentada”. Los sesgos de los diseñadores, empresas y gobiernos se incorporan en los modelos, impactando en la verdad, la justicia, la salud y el empleo. Por ello, aboga por recuperar los valores eternos y el espíritu crítico.

Escobar, por su parte, destaca la falta de neutralidad de la IA. “Está creada por grandes corporaciones con ideología propia. La IA repite lo que le han dejado repetir, y a veces está bloqueada en temas que considera peligrosos”. Esto puede llevar a que unos pocos impongan su visión del mundo, recordando a la novela 1984 de Orwell.

El riesgo de una ‘Babel tecnológica’

En la encíclica, el Papa alerta sobre una “nueva Babel” tecnológica basada en la uniformidad y el poder. Escobar explica que la figura de Babel simboliza la unidad forzada que sacrifica la diversidad. Pascual añade que la concentración en pocos desarrolladores aplana las diferencias que enriquecen a la humanidad. Para evitarlo, propone transparencia algorítmica y auditorías independientes, temas que también abordamos en Snowflake se arma con Natoma: el tejido de gobernanza que los agentes de IA necesitan para no ser un riesgo empresarial.

La IA al servicio del bien común

El texto pontificio insiste en que la tecnología puede construir o dividir. Pascual sugiere revisar el concepto de bien común, priorizando usos que humanicen frente a los que dominen o excluyan. Escobar va más allá: el Papa habla de “tecnofascismo”, gobernado por oligarquías que crean opinión e ideología. “La IA disuelve en una masa guiada por una lógica impersonal”, advierte.

La concentración de poder tecnológico en grandes empresas transnacionales es otro punto crítico. Pascual lo califica de “colonialismo digital” y aboga por regulaciones internacionales fuertes, transparencia y rendición de cuentas. La autorregulación ha sido insuficiente, por lo que propone una cooperación entre empresas, Estados, academia e Iglesia.

Permanecer profundamente humanos

Una de las ideas centrales de la encíclica es la necesidad de seguir siendo humanos. Escobar lo resume: “La IA puede imitar lo humano, pero no es humana. Le falta emoción, conciencia, discernimiento moral”. Pascual añade que debemos custodiar la libertad, la fragilidad, la empatía y el pensamiento crítico, evitando tentaciones transhumanistas que reduzcan al hombre a una máquina útil.

Implicaciones para empresas y profesionales IT

Para los profesionales de TI, esta encíclica es un recordatorio de que la IA no es solo una herramienta técnica, sino un fenómeno con profundas implicaciones éticas y sociales. La regulación, la gobernanza y la transparencia son temas que ya están en la agenda de la UE y otras regiones. Como vimos en Claude Opus 4.8: La nueva era de control y transparencia en IA para SysAdmins y DevOps, la industria avanza hacia modelos más auditables y controlables.

La ciberseguridad también se ve afectada: la IA puede ser tanto una defensa como un vector de ataque. En Mythos Preview de Anthropic detecta 10.000 vulnerabilidades, vimos cómo la IA se usa para identificar fallos, pero también puede generar riesgos si no se gobierna adecuadamente.

En definitiva, Magnifica Humanitas es mucho más que un documento religioso: es una llamada a la acción para que todos los actores —gobiernos, empresas, desarrolladores y ciudadanos— trabajen juntos para que la IA sirva al bien común y no al revés.

Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.