En un momento en que la inteligencia artificial (IA) impregna cada aspecto de nuestra vida laboral y personal, las voces que claman por una reflexión profunda se multiplican. La última, y quizás la más resonante a nivel global, es la del Papa León XIV, quien el pasado 25 de mayo publicó Magnifica Humanitas: sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. Esta encíclica, la primera de su pontificado, no es un mero documento religioso: es un llamado a repensar el papel de la tecnología en la sociedad, con implicaciones directas para empresas, gobiernos y profesionales TI.

La IA como nueva revolución industrial

León XIV no es el primer pontífice en abordar la tecnología. Desde León XIII con Rerum Novarum (1891) hasta Francisco con Laudato Si' (2015), la Iglesia ha seguido de cerca el impacto de la industrialización y el progreso técnico. Sin embargo, es la primera vez que una tecnología específica, la IA, ocupa el centro de una encíclica de forma tan sistemática. El Papa la califica como una nueva revolución industrial, comparable a la del siglo XIX, pero con un alcance aún más disruptivo.

En su análisis, la IA no es neutral: depende de quién la crea y con qué fines. Su misión debe ser servir al ser humano, nunca dominarlo. Esta advertencia resuena especialmente en el ámbito empresarial, donde la automatización y los algoritmos de decisión ya están redefiniendo procesos. Como señala Alberto Pascual, presidente de ASLAN y director ejecutivo de Ingram Micro España, “la tecnología ha sido siempre un amplificador de lo que contiene el corazón del hombre. Si hay una crisis espiritual, de valores, la IA la reflejará aumentada”.

El debate sobre la neutralidad de la IA

Uno de los puntos más comentados de la encíclica es la falta de neutralidad de la IA. Mario Escobar, escritor y experto en la figura del Papa, explica: “La IA está creada por grandes corporaciones. No son intelectuales individuales, sino grandes empresas tecnológicas que tienen dueños, y las propias empresas tienen ideología”. Esa ideología se refleja en los sesgos de los modelos, que pueden imponer una visión del mundo sin que los usuarios sean conscientes.

Para los profesionales de TI, esto implica que la implementación de IA requiere una supervisión ética rigurosa. No basta con desplegar un modelo; hay que auditar sus decisiones, garantizar la transparencia algorítmica y evitar la concentración de poder en pocas manos. Como advierte el Papa, el riesgo de una “nueva Babel” tecnológica, basada en la uniformidad y el control, es real. “La uniformidad algorítmica aplana las diferencias que siempre han enriquecido a la Humanidad”, añade Pascual.

Implicaciones para la gobernanza y la regulación

La encíclica aboga por una regulación pública de la IA, con supervisión independiente y responsabilidad ética global. Este llamado coincide con los esfuerzos de la Unión Europea, que ya ha puesto en marcha el AI Act. En nuestro artículo “Fue la IA” no te salvará cuando los reguladores de la UE llamen a tu puerta, analizamos cómo las empresas deben prepararse para cumplir con estas normativas.

El Papa también alerta sobre el “colonialismo digital” ejercido por grandes tecnológicas con recursos superiores a muchos Estados. Para Pascual, “la autorregulación se ha mostrado insuficiente”. Propone regulaciones internacionales fuertes, con exigencia de transparencia, rendición de cuentas y participación de la sociedad civil. Las empresas deben anticiparse a estos cambios, integrando principios de gobernanza ética desde el diseño de sus sistemas de IA.

El riesgo del tecnofascismo y la pérdida de autonomía

León XIV utiliza el término “tecnofascismo” para describir el riesgo de que la IA sea gobernada por oligarquías que imponen una lógica impersonal. “La IA disuelve en una masa guiada por una lógica impersonal que no sólo informa, sino que crea opinión e ideología”, explica Escobar. Esto es especialmente peligroso en ámbitos como la justicia, el crédito o la salud, donde las decisiones automatizadas pueden perpetuar desigualdades.

Para los profesionales de ciberseguridad y gobernanza, este es un recordatorio de que la IA no es solo una herramienta técnica, sino un vector de poder. En nuestro artículo Snowflake se arma con Natoma: el tejido de gobernanza que los agentes de IA necesitan para no ser un riesgo empresarial, exploramos cómo las plataformas de datos están integrando controles para mitigar estos riesgos.

Permanecer profundamente humanos

Una de las frases más poderosas de la encíclica es la necesidad de “permanecer profundamente humanos”. Escobar lo explica así: “La IA puede imitar lo humano, pero no es humana. Le falta emoción, conciencia, discernimiento moral. Por eso es implacable: puede ejecutar órdenes sin cuestionarlas”.

En la práctica, esto significa que las empresas deben evitar la tentación transhumanista de reducir al empleado a un dato optimizable. Pascual recomienda “recuperar las virtudes cardinales –prudencia, justicia, fortaleza y templanza– como brújula para guiar el desarrollo tecnológico”. La IA debe estar al servicio del bien común, no al revés.

Un llamado a la acción para el sector TI

La encíclica no es un documento aislado: es un catalizador para el debate global. Gobiernos, corporaciones y organizaciones ya están tomando nota. Para los profesionales de TI, el mensaje es claro: la ética no es un complemento, sino un requisito fundamental. Desde la configuración de infraestructuras seguras hasta la implementación de modelos de IA responsables, cada decisión cuenta.

En nuestra guía sobre VPNs y firewalls destacamos la importancia de proteger la red, pero la seguridad también implica gobernanza. La IA debe ser transparente, auditable y alineada con los valores humanos. Como dice el Papa, “la tecnología puede tanto construir como dividir”. Depende de nosotros elegir el camino.

Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.